布林：Transformer能通向AGI
别再吵Transformer过不过时了，“川式伏魔”的天花板已肉眼可见，融合才是唯一正解最近布林一句话又把“Transformer能不能通AGI”炸上热榜，底下评论区果然又分成两派：一边是“传统架构YYDS，新架构都是花架子”，另一边是“Mamba/RWKV才是未来，Transformer早该淘汰”。我只想说一句——非此即彼，纯属邪路。先说“川式伏魔”（Transformer）的天花板，确实肉眼可见了：· 算力吞噬兽，序列一长就跪；· 线性注意力的新贵们确实在效率上吊打，但真拉出来做多模态、做复杂推理，又差点火候。那怎么办？答案不是二选一，而是“缝合怪”式的融合。你看Jamba、MambaFormer，已经在试水混合架构了；再看国内头部大厂，早就不是死磕单一套路，而是在Transformer骨架上狂插“外挂”——MoE稀疏化、线性注意力子层、可插拔的推理优化模块。说白了，未来属于“能用Transformer的生态，又能用新架构的长板”的务实派。那些天天喊着“必须学新框架不然失业”的培训号，和那些“国产必须全栈自研从头造轮子”的激进派，本质上都是在给行业添乱。别被带偏了。把Transformer源码啃透，同时盯紧稀疏计算和推理优化这两个工业界真痛点，比跟风换赛道强一万倍。共勉
发布于 云南
1
2
赞
未登录
友善发言
评论
加载中
