萨顿：LLM有根本缺陷
强化学习之父、刚拿了图灵奖的萨顿公开说LLM是"死路一条"。他的核心观点是大模型缺乏泛化能力，不会在"工作中学习"，只是模仿人类语言的"模仿引擎"。我听完的第一反应：放屁。然后我想了五分钟。然后我改成了：好像有点道理。我自己用AI写代码、写文案、做PPT，每次它都能给我交个八九不离十的东西。但上个月我让它帮我调一个线上bug，它连日志都读不懂，翻来覆去给同一个方案，改了三版全是错的。它就像一个背了整本《五年高考三年模拟》的学生，题做得比谁都快，但换一道没见过的变形题就傻眼了。萨顿说的是泛化。他说LLM不能像动物和人一样"实时学习"——你教一只狗一次，它记住了。你教一个LLM，得重新训练。但我也有反驳的地方。我表弟，00后程序员，用Cursor写代码比我还快。AI不能泛化？它能帮我写出我三个月都想不出来的架构方案。你说它是模仿引擎？那它模仿得也太好了。其实萨顿说的可能是对的，但"对"不代表"没用"。马车有根本缺陷——马会累会死会拉屎，但马车照样拉了人类几百年。LLM可能不是终极智能，但不妨碍它先帮我们干五年十年活。反正我现在每天还是得靠它写周报。
发布于 山东
分享
评论
赞
未登录
友善发言
评论
加载中
