斯坦伯格：AI的新瓶颈是注意力
斯坦伯格（Christopher Steiner，《Automate This》作者，最近在AI圈刷屏那篇"Attention is the New Compute"的作者）最近抛的"AI的新瓶颈是注意力"，听着像哲学，其实是给"算力通胀"画了个新靶子——当模型能一秒读完整个图书馆时，它最稀缺的不是算力，是"知道该读哪段"的能力。"注意力瓶颈"拆两层：模型侧：长上下文（128K→1M→10M）不是"能装"就行，是"能在10M token里精准定位第8,572,341个token那句关键信息"——现在的attention机制在超长序列上还是"均匀撒网"，不是"精准钓鱼"，斯坦伯格管这叫"注意力稀释"；用户侧：当每个人都能用AI生成100份日报、50版方案、30种策略时，人类的注意力成了真正的瓶颈——不是AI不够强，是人看不过来。国内对照：这观点跟字节"信息流+推荐"基因天然契合——字节的AI产品（豆包、Coze）一直押"AI帮你筛，不是AI帮你生成"，本质就是在解决"注意力瓶颈"；而OpenAI/Google押"生成更多"，反而在加重注意力通胀。打工人启示："AI筛选"比"AI生成"接下来更值钱——做RAG、做摘要、做信息路由、做注意力分配的产品，会比纯生成式AI活得更久。"帮用户省注意力"是下一波AI产品的核心卖点，不是"帮用户生成更多"。你们觉得"注意力瓶颈"这说法成立吗？还是算力/数据仍然是真瓶颈？评论区见。
发布于 山西
1
评论
赞
未登录
友善发言
评论
加载中
