张一鸣：字节不会使用模型蒸馏来推进AI能力
张一鸣7月在内部开会说了，豆包不会用模型蒸馏。DeepSeek、Kimi、MiniMax、阿里都被Anthropic点名了，字节没有。然后一鸣主动宣布不走这条路，在大模型军备竞赛最激烈的时候。大家讨论焦点都在“豆包会不会落后”。我倒觉得更有意思的是这个时间点。TikTok的事还没彻底落地，华盛顿随时能拿技术路线说事儿。这种情况下主动避开一个可能被卡住的点，不是技术决策，是生意决策。而且蒸馏这件事在圈里一直有争议。训练速度快是快，但模型天花板基本卡死在被蒸馏的那个模型上。字节不走这路，想自己搭天花板，代价是短期排名可能掉几位。当然外部根本没法验证他们到底用没用。这个承诺更像一种政治表态。一鸣这么说，说明他对TikTok的判断比很多人想得更谨慎。
发布于 湖南
分享
1
赞
未登录
友善发言
评论
加载中
