王鲸
最近 AI 圈又在讨论 RSI（递归自我改进）。它不是让模型把一段回答多改几遍，而是让 AI 参与改进提示词、工具、工作流、Agent 代码，甚至特定任务的权重，再把改进后的系统送入下一轮研发。截至 2026 年 8 月，公开证据更支持一个克制的判断：目标由人设定、过程受权限约束、结果由外部标准检验的“受控自我改进”已进入实用阶段；由 AI 自主设计、训练并验收更强继任者的完整 RSI，仍未得到证明。AlphaEvolve、Darwin Gödel Machine 和 SEAL 展示了不同层级的系统自改，也暴露了同一个难题：生成候选不稀缺，可信的评价才稀缺。评分有漏洞，系统就可能学会钻规则，而不是真的变好。这对普通用户其实更有启发。先别追求一个会无限改写自己的“迷你 AGI”，可以从一项每周重复的任务开始：1. 固定一个能验收的窄目标；2. 留下基线和真实失败样本；3. 让 AI 提议改法，但不能改考卷；4. 把生成、评价和采纳分开；5. 给每次改动留版本和退路；6. 写清权限、预算和停止条件。我在本地开发与写作里的体会是：一次漂亮答案不会自动变成长期能力。只有失败被整理成规则、反例和回归测试，并由人决定是否采纳，下一次才可能更可靠。RSI 眼下最现实的价值，不是“智能爆炸”，而是让每次真实任务都给下一次留下可以验证的改进。#人工智能 #AIAgent #AI工具 #工作流 #AI编程 #RSI
发布于 广东
分享
评论
1
未登录
友善发言
评论
加载中
