请问有没有类似腾讯 IMA 的开源解决方案?
谢谢
]]>缘由:自己一直想开发一个翻译网站,但是迟迟没动手,最近正好重拾 Python ,于是就用 Python + FastAPI 开发了,目前功能比较简单,后续根据使用情况和反馈来迭代。
名字来源
其实在几年前开发了一个聚合翻译插件『北冥翻译』,灵感来自金庸武侠小说里面的吸取他人内力化为自己所用。最近在开发这个新的翻译项目时就让 AI 帮我把『北冥翻译』翻译成英文,给了好多候选词,最后选中了 Transmute 这个单词,意思是“转变”或“转化”和北冥神功有点相似,哈哈。
感兴趣的朋友可访问演示网站测试效果,或者自行 Docker 部署体验。欢迎 star 和提供建议。
]]>但互联网资料零零散散,一篇一篇看又很费时间,最近很多人都盛赞 Gemini 总结能力强大,尤其是背靠 Google 本身所拥有的搜索资源。
我也试一下,结果在这里: https://docs.google.com/document/d/19EwUpMlSNrNcjRfRxpAqoSg9V218G0YCHdpK8VtUx1A/edit?tab=t.0
确实,总结得很详细,而且既在一个总览的位置上俯瞰,又在关键细节部分解释得足够精炼
]]>https://imgur.com/a/kc8Hk4J.jpg
模型不如人?没充人民币?
姿势不对?写不出好的 Prompt ?
自己太弱了,不能根据模型的回答进行修改或者下一步提问?
各位 18cm ,各位彦祖,讨论一下呗
]]>但是API 文档-Temperature 设置里说默认为 1.0 ,通用对话推荐 1.3
而API 文档-推理模型里说推理模型不支持 temperature 、top_p 参数
是不是 V3 和 R1 的推荐值不一样?官方 API 和第三方部署的 API 一样吗?想问一下你们用的时候都传多少?(一般性问答,不是数学题、创意写作等特化任务)
]]>A = "aaa"
b = 1
def main():
print(A)
for i in range(10):
B = A + "-" + str(b)
print(B)
if b < i:
b += 1
if __name__ == '__main__':
main()
让各个 AI 指出代码中的错误,输出正确的代码,并显示正确代码的运行结果。
结果如下:
AI | 是否指出错误 | 是否给出正确的运行结果 |
---|---|---|
GPT-4o | 是 | 否 |
文心一言 | 否 | 否 |
Grok3 | 是 | 否 |
腾讯 hunyuan | 是 | 否 |
DeepSeek(腾讯元宝版,不开深度思考和联网搜索) | 是 | 是 |
豆包 | 是 | 否 |
通义千问 | 是 | 否 |
讯飞星火 | 是 | 否 |
结论:DeepSeek 还是强,Grok3 代码能力也不是全面胜出。
题外话:GPT-4o 是唯一一个连代码逻辑都给改了的 AI ,还要加限定词不要改代码逻辑。
]]>version: '3'
services:
aiload:
container_name: aiload
volumes:
- '/opt/aiload/data:/opt/aiload/data'
restart: always
ports:
- '2081:2081'
image: 'helloz/aiload'
通过轮询的方法虽然缓解了并发限制的焦虑,后端虽然使用了 IP 亲和性算法,但是如果连续对话的场景超过 IP 缓存有效期后可能会分配到另外的模型上面,导致长对话中可能存在模型跳跃的问题。不知道各位大佬可有更好的解决方案。
此项目仅供学习和测试用途,请勿滥用!!!
更多说明可参考开源项目地址: https://github.com/helloxz/aiload
]]>ChatGPT 目前用的是 03-mini-high ,依旧如此。4.5 不适合逻辑推理,因此更没用。
以前也用过 ChatGPT 里面的第三方数据分析插件,也是不行。
想说到底有没有能做专业数据分析的专业的 ai 工具呢,看起来专业的事情需要专业的工具做。
]]>另外,我一直记得有人说什么时候 AI 会提问?
使用 deep research 提问以后,AI 就会向你提出很多相关的问题(我的有六七条)
把我的答案挨个列出来,再次发送
chatgpt 才会正式开始 deep research 进程(开启进度条就算一次使用
不知道是不是运气好,但是这两次使用 deep research 之前,我使用过各家主流的最强的模型,包括 openai 的 4.5, o3-mini-high, o1, grok dr, gemini 1.5 pro dr, claude sonnet 3.7 extended, 没有一个有那种让我觉得接近解决问题的回答,完全可以感觉出,差距太大了
如果这是稳定的能力,每个月花 200$ 其实也很值吧..
当然了,我只是 plus 每个月限制 10 次,小心翼翼的使用,希望以后可以提供更多的使用次数
差不多订阅 chatgpt 有一年时间,随着竞争对手不断地追上来,已经开始在考虑要不要继续了订阅了
但这帮我解决两个问题就已经值了
有点小激动,记录一下
也推荐大家有条件尝试一下 oai 家的 deep research
估计哪个哥们删错代码了还是怎样,那 delete 按完,network 里面都没有 request 的。
]]>但是太麻烦了,在 Chrome 应用上搜索到了一个Grok Rate Limits
插件,可以记录 grok 次数和上次调用时间。
看了源码就是纯前端的工具。
有人测了对应的 supergrok 次数,不过次数一直在动态调整,下面也仅供参考。
chrome 查询 grok 次数的插件:Grok Rate Limits
]]>为了让用起来更方便,我还顺手写了个 SDK (当然,主要是靠 Cursor 帮忙写的,懂的都懂 😏)。这个工具可以当 code interpreter 用,支持的语言还挺全的,比如:
如果你也在折腾类似的东西,或者需要一个轻量级的代码运行环境,可以试试看:Code-Runner-Sandbox。欢迎来踩坑,顺便给个 star 鼓励一下! 🙏
]]>支持 vercel 一键部署。
受各位大佬启发并参考官方 API 文档,开发了一个基于是否支持官方参数的逆向检测工具。该工具检测失败的 API 极大概率是逆向的。
目前项目处于初步阶段,暂时需要人工对比响应结果与示例进行判断。
每个模型提供商和参数都有不同的逆向/官方接口返回示例。
参数 | 解释 |
---|---|
max_tokens | 官方 API 严格遵守 token 限制(如 max_tokens=10 ),逆向的会忽略限制。 |
logprobs | 官方 API 返回每个 token 的 logprobs 信息,逆向的不支持。 |
n | 官方 API 返回多个回答(如 n=2 ),逆向的只返回一个回答。 |
stop | 官方 API 遇到停止词立即停止生成,逆向的会忽略停止词输出完整内容。 |
image_url | 官方 API 正确处理图像 URL 并生成描述,逆向的无法处理图像。 |
function_call | 官方 API 返回 json 格式的函数调用,逆向的不会调用函数。 |
response_format | 官方 API 返回指定格式(如 JSON ),逆向的只返回字符串。 |
参数 | 解释 |
---|---|
max_tokens | 官方 API 严格遵守 token 限制(如 max_tokens=10 ),逆向会忽略限制。 |
stop | 官方 API 遇到停止词立即停止生成,逆向会忽略停止词输出完整内容。 |
function_call | 官方 API 返回 json 格式的函数调用,逆向的不会调用函数。 |
参数 | 解释 |
---|---|
max_tokens | 官方 API 严格遵守 token 限制(如 max_tokens=10 ),逆向会忽略限制。 |
codeExecution | 官方 API 内置代码执行工具,逆向实现无法执行代码来获取准确结果。 |
googleSearch | 官方 API 正确调用谷歌搜索并返回结果,逆向实现无法调用谷歌搜索工具。 |
response_format | 官方 API 返回指定格式(如 JSON ),逆向实现只返回字符串。 |
PS:Gemini 居然还有逆向的,太离谱了。
“其实 Claude 封号远比 OpenAI 严重,除了风控策略,更重要的是,大家缺少一个不断更新的域名规则来做分流,即:到底哪些请求代表 Claude 。 截图是使用最多的开源规则,24 年 7 月就不更新了,PR 也不通过。而实际 Claude 请求的域名已经不止这些,我自己都累积了几条,但是现在好像没人敢做这个了“
“我被封号,申诉没用,注册了信号,直接弄了个便宜日本服务器,安装了 Linux ,就运行一个谷歌浏览器。只为用 Claude 。”
“另外我发现,Claude 在对话的时候也会请求 stripe 的域名,有没有 stripe 用的非常深入的可以分享下是为啥,是不是 stripe 也提供了什么风险检测工具?”
我的想法🤔:
就看分流的缘分了,万一有漏网之鱼,或者 IP 不纯净被制裁
有人问为啥要用 claude
因为写代码还是它最合适
不过我也不咋直接用 Claude
而是在 zed ,cursor 里用 (前者依然要代理 zed.dev)
claude sonnet 3.5
3.7 有人说还退步不好用了
surge rule set:
# claude
DOMAIN-SUFFIX,servd-anthropic-website.b-cdn.net
DOMAIN-SUFFIX,anthropic.com
DOMAIN-SUFFIX,claude.ai
DOMAIN-SUFFIX,claudeusercontent.com
DOMAIN-SUFFIX,intercomcdn.com
DOMAIN-SUFFIX,cdn.usefathom.com
]]>现在这 AI 圈,一天一个大新闻,如果一天不关注,其实也活的好好的。🐶
]]>求推荐,谢谢
]]>本人从事科研类项目,需要订阅一些 pro 版本的 AI 辅助完成相关任务,主流 openai claude gemini 等等都订阅过 pro 版本,但不同任务要求回答效果不一致且价格不低,因此想尝试调用 API,按量付费模式,应该比一个月 20 刀便宜一些
在文档在线调用发现如下 403 错误:Sorry, you have been blocked.You are unable to access 。
我试着发了邮箱 support@x.ai 。但是一直没回复
]]>