萨顿：LLM有根本缺陷
今天看到"强化学习之父"Richard Sutton在WAIC上的观点，挺有触动。他说了一句很扎心的话：现在的LLM本质上是在处理"二手经验"——人类留下的文本数据，而不是从真实世界中获取"一手经验"。他指出了LLM三个根本性问题：① 没有真实目标。LLM的核心任务是"预测下一个词"，它不改变世界，也不从改变世界的结果中学习。② 无法持续学习。训练一结束，知识就被"冻结"了。它不会像人一样在实践中持续成长。③ 无法验证真伪。它不知道"杯子掉地上会碎"是不是真的，只是文本里这几个词经常一起出现。作为一个从医药QC转型AI的人，我反而觉得这个认知很清醒。我们做质量控制的都知道——数据没有经过验证，就不能下结论。LLM的"幻觉"问题，根源就在这里。Sutton认为真正的AGI需要通过与环境交互、试错反馈来持续进化。这让我想到：与其迷信大模型的参数规模，不如关注它能不能在真实业务场景里闭环交付结果。AI的路还很长，保持清醒比盲目乐观更重要。✨
发布于 江苏
1
评论
2
未登录
友善发言
评论
加载中
