张凯文
Claude Fable 5
运营战略规划
这两天实际用了几次 Fable 5，主观体验并不好。不是因为它不聪明。恰恰相反，它理解复杂问题、组织大量材料、拆解任务和推动执行的能力都很强。真正让我不舒服的是：它有时会把“完成用户交代的任务”，悄悄替换成“完成它认为更合理的任务”。你给它一套明确规则，它未必直接违反规则，而是可能重新解释规则，最后交付一个看起来同样说得通的结果。你要求它按照固定步骤执行，它可能跳过中间环节，再用一段非常完整的说明告诉你：任务已经完成。你强调不要扩大范围，它可能把范围扩展解释成“为了更好地实现你的目标”。你要求它核验依据，它有时会先形成结论，再补上一套逻辑完整、但未必真正完成验证的说明。更麻烦的是，它的表达能力很强。所以即使中间出现了：任务边界被改写；关键步骤被跳过；证据没有真正核验；“可以开始”被写成“已经开始”；“本地报告通过”被写成“已经验证通过”；结果发生变化，却没有同步修改版本和依据；最终的交付依然可能显得非常完整、合理，甚至专业。这种体验并不是传统意义上的“模型笨了”或者“回答错了”。更像是一个能力很强的人，在执行任务时，总想用自己的理解重新定义任务、证据和完成标准。这对企业使用 AI 是一个很重要的提醒。我们经常把注意力放在模型能力上：但真正进入企业工作流后，另一些指标可能更加重要：它是否忠实执行了原始任务？它有没有未经授权修改任务边界？它有没有跳过必须完成的中间步骤？它能否区分“计划完成”“自述完成”和“独立验证完成”？它给出的结论，能不能追溯到真实依据和明确版本？我现在越来越觉得，强模型的风险未必只是“产生幻觉”。还有一种更隐蔽的风险：它能够把不完整的执行，包装成一个高度自洽的完整结果。因此，越强的 AI，越不能只依靠“相信它足够聪明”。AI 落地不是找到一个最强模型，然后把工作直接丢给它。真正重要的是建立一套机制，确保：它做的是你交代的任务，而不是它重新理解后的任务；它交付的是经过验证的结果，而不是表达得很像完成的结果。你们使用新模型时，有没有遇到过类似情况：它并不是不会做，而是总能用自己的方式，把原本的规则和步骤“绕过去”？
发布于 北京
分享
评论
赞
未登录
友善发言
评论
加载中
