萨顿：LLM有根本缺陷
强化学习之父Richard Sutton说了句得罪所有AI信徒的话：LLM不过是个高级鹦鹉，根本不理解这个世界。你先别急着骂。听完他的逻辑，你可能会沉默。Sutton在Dwarkesh Patel播客里原话：大语言模型只是在统计上模仿人类语言的表面模式，它没有目标，没有对物理世界的因果理解，更没有"想要什么"的自主意图。说白了，ChatGPT能写出满分论文，但它不知道纸是什么，也不在乎你看不看。数据不说谎。GPT-4在MMLU基准拿了86.4%，可同一模型在简单物理推理题上错误率超40%。让它"想象一个球放在桌上然后翻转桌子"，它大概率答错——因为它没活在物理世界里，它只是在模仿"物理世界"这个词的语言分布。更扎心的是，当前LLM幻觉率仍高达15%-30%，本质就是"不懂装懂"的统计拼凑。而强化学习为什么被Sutton看重？因为Agent在真实环境中试错、获得反馈、形成策略——这才叫认知。AlphaGo下围棋不是靠背棋谱，是靠自己跟自己下了几亿盘"想明白"的。但你可能要反驳：可它确实能干活啊？能写代码、能做方案、能当客服。对，它能替代你80%的执行层工作。可Sutton真正想说的是——如果你的核心价值只是"执行"，那你本来就该被替代。他有句话我反复咀嚼：智能不是预测下一个token，而是在不确定的世界里追求目标。你品，这句话骂的不是技术，是我们把"会说话"等同于"会思考"的懒惰。所以对立的问题来了：你每天用AI写周报、做PPT、生成方案，你是在"使用工具"，还是在"出让思考"？如果有一天AI断网了，你还能不能独立完成一次完整的判断？Sutton不是反AI，他是反"把模仿当理解"。这两者的区别，可能就是你未来十年是被AI赋能，还是被AI架空的分水岭。你觉得，你现在是在用AI，还是AI在用你？
发布于 吉林
2
评论
赞
未登录
友善发言
评论
加载中
