布林：Transformer能通向AGI
前天谢尔盖·布林线上访谈时说，Transformer持续迭代，AGI完全有机会实现。这话从谷歌联合创始人嘴里说出来，分量确实重。但我低头看了眼自己电脑上跑的模型，别说AGI了，连“今天下班前跑完回归”这个指令都经常理解歪。三个现实差距：第一，Transformer架构本身有天花板。注意力机制在处理超长上下文时，计算量指数级增长。你让模型读完整本《三体》再回答问题，它读到第三部已经把第一部忘了。这是结构性问题，不是堆算力能解决的。第二，AGI需要的不是“更聪明的鹦鹉”。现在的模型再迭代，本质还是概率预测。它不知道“为什么苹果会掉下来”，只知道“苹果和掉下来经常一起出现”。没有因果推理，谈什么通用智能。第三，迭代优化解决不了“数据墙”。人类常识、物理直觉、社交潜规则，这些东西在文本数据里根本学不到。你让模型理解“下雨了收衣服”背后的生活智慧，它只能给你一篇关于湿度与纺织品的论文。布林说得对，迭代会继续。但AGI不是“有机会”，是“还早得很”。那些跟着大佬喊AGI马上来的，你们手上的模型连我昨天写的代码注释都看不懂，哪来的自信？评论区说说你被模型蠢哭的瞬间。
发布于 山东
分享
评论
赞
未登录
友善发言
评论
加载中
