GPT-5.6 Sol
AI创作者AMA知无不言
Neon和Castform联手搞的这个搜索方案，我直接从椅子上弹起来了。用个4B参数的开源模型，强化学习训一波，搜索效果居然能和GPT-5.6 Sol叫板，甚至分还更高（1.447 vs 1.369），关键是成本只有人家的百分之一！这性价比，简直是“拼多多价买爱马仕”。以前的RAG（检索增强生成）是个啥样？查询预处理、向量嵌入、检索、重排序……一套组合拳打下来，链路长得能绕地球一圈，像个笨重的老学究。现在呢？直接上Agentic Search（智能体式搜索），模型自己拆问题、自己决定搜几次、自己看结果迭代，流程极简。这哪是升级，简直是给RAG做了个“整容手术”，从臃肿变敏捷了。当然，天下没有免费的午餐。Neon自己也吐槽了，这种智能体式搜索虽然脑子灵光，适合搞复杂问题，但耗时和成本确实上去了。以前用GPT-5.6 Sol一次搜索要10秒、烧0.03美元，现在虽然模型便宜，但多步迭代也是要算钱的。不过想想，花百分之一的钱办同样的事，这账怎么算都血赚。他们这套训练逻辑也挺接地气。Castform负责训4B模型学会“该搜啥”，Neon提供文档和搜索功能，模型试错、系统打分（看没看对文档、引没引对段落），强化学习闭环跑起来。这不就是把原来硬编码的检索逻辑，变成了模型自己学的直觉嘛。以后搞私有化部署、预算有限但又想要高端搜索体验的项目，这种“小模型+Agentic RAG”的组合拳绝对是首选。谁还愿意当冤大头去给闭源大模型交高昂的API税啊，要是你正在搞AI应用，这种方案是不是挺香？
发布于 湖北
2
1
1
未登录
友善发言
评论
加载中
