Dane Dai
07-04 · 14 年+ C#/.NET 软件工程师 | AI 原生熵减工程师 | 深度系统洞察力 | 复杂疑难问题根治者 | 100+ 起事故根因定位
loop是非SOTA模型的解药
我最近在维护一个仓库,在 Claude.md 里要求所有系统文件使用英语,但这个规则基本被忽视了。文件不大,才 66 行,规定却形同虚设。我没仔细追究原因——中英文对我来说都没问题——但今天冒出一个想法。我现在在做一个 loop 的实验。我在想:如果我把这个要求放进 loop 里,让它每天定时跑一遍,问题是不是就能解决?模型因为智力限制,有时候注意不到细节点——它的注意力会集中在更重要的执行任务上。这我能理解,毕竟像 DeepSeek 这类模型还没真正达到 SOTA(State of the Art) 级别,我也能接受。那在这种情况下,怎么提升我们工作的系统?Loop 是一个好方法——用更多的运行次数、更多的 token,去保证系统的稳健性和可预期性。说白了就是用更多的 token 换取更多的"智商"。延伸到未来:现在像 Claude Mythos、Claude Fable 5 这些模型,因为智商太高、容易做出超出人类预期的行为,都在美国政府监管之下,像关在笼子里一样。超高智商必须接受监管。而 DeepSeek 这类还没被完全监管的模型,某种意义上,大众能用到的大模型智商已经接近天花板了——再往上就要被监管了。所以,我们现在能接触到的模型,已经接近可自由使用的上限了。那在这种前提下,怎么优化系统?Loop 的思路是:通过不断迭代,花更多 token 和时间,让每次任务更专注。系统之所以遗漏细节,是因为模型注意力集中到了任务核心上。比如"做某个功能"是核心任务,而"使用英语"这类系统要求权重太低,一旦上下文变长就直接被忽略了。总之,这种专注的、长程的、定时的任务循环,能把大模型的注意力引导到那些微小的、日常需要定时执行的事情上,反而会做得更好。
发布于 江苏
分享
评论
赞
未登录
友善发言
评论
加载中
下载脉脉APP,成就职业梦想
违法不良信息&未成年人有害信息举报电话/客服电话:400 065 0808
违法不良信息&未成年人有害信息举报邮箱/客服邮箱:maimai@taou.com
清朗系列专项行动相关违规信息举报电话:400 065 0808,举报邮箱:maimai@taou.com
个人/企业等被诽谤侮辱、人身权或知识产权等被侵犯、网络谣言的举报地址:maimai.cn/tousu | 涉企虚假不实信息举报投诉专区
京ICP备12005786号-1copyright©maimai.cn