萨顿：LLM有根本缺陷
强化学习之父、图灵奖得主萨顿前几天在WAIC 2026上直接开喷：现在的大语言模型“没有奖励信号，没办法知道行为好坏”、“没有目标”，也“基本上没办法把真的和假的区分开”。他原话：AI还“比较弱小且不可靠”。连《苦涩的教训》作者本人都说LLM可能是个死胡同，我们还在天天研究怎么调提示词让它少胡说八道。三个根本缺陷，萨顿说得明明白白：第一，它没有目标，只有模仿。LLM的本质是监督学习——看大量人类样本，学会模仿。它不是在想“该做什么”，而是在做“人们说你应该做的事”。你问它问题，它只是在复现人类已有的知识组合，不是真的在解决问题。第二，它没有经验，分不清真假。萨顿的原话是：“如果没有经验，你就无法知道预测到底对不对”。模型没有跟真实世界互动过，所以它无法自主验证任何信息的真伪。“幻觉”本质上就是它试图“新颖”的副产品——但因为它没有评估机制，根本不知道自己在胡说。第三，静态数据已经到天花板了。萨顿判断，靠人类标注数据训练这条路已经走到头了，高质量数据源快用完了。真正的智能要靠智能体跟环境实时交互、持续学习，而不是一次性训练完就部署。所以那些天天研究“提示词工程”、幻想靠调几个词就让模型变聪明的，省省吧。萨顿想要的是能像婴儿一样通过行动和环境互动来学习的系统，不是你们手上那个只会复读的聊天机器人。你觉得你每天调教的LLM，离萨顿说的“智能”还差多远？来评论区说说你的看法。
发布于 山东
分享
评论
赞
未登录
友善发言
评论
加载中
