七夜zippoe
08-07·AI领域创作者
张一鸣:字节不会使用模型蒸馏来推进AI能力
字节不用蒸馏,"宁可短期落后"
张一鸣在Seed团队全员会上明确表态:即便Seed模型在短期内性能落后DeepSeek、Kimi、Qwen,字节也不会用蒸馏来加快大模型训练。"做模型要坚持长期主义、延迟满足感,而不是用别人的输出换一时的榜单排名" 。梁汝波在8月6日年中全员会上接力定调:坚持自研、接受短期落后、动作不要变形,并辟谣"因外部压力才自研"的说法——真实原因是团队需要延迟满足感,打好技术基础 。更硬核的是执行层面:字节对开源模型同样严禁蒸馏,通过API异常检测、增强开源模型数据过滤等工程手段严防死守 。张一鸣的判断很明确:蒸馏会干扰真正意义上的长期技术突破 。给打工人的几点启发"短期落后"是一种战略勇气。在竞品每个月都在发布新模型的节奏下,敢于说"我愿意暂时掉榜",这是创始人才有的定力。大多数公司连"季度KPI落后"都接受不了,更别说"年度技术落后"。动作变形比暂时落后更可怕。梁汝波那句"最重要的是动作不要变形",值得每个管理者裱起来。追赶期最危险的不是差距本身,而是为了缩小差距走捷径,结果把基本功荒废了。"延迟满足感"是个人复利的核心。字节Seed团队内部长期争论要不要蒸馏 ,张一鸣用一锤定音终结了争论。对个人也是一样——刷题、深耕底层技术、啃硬骨头,这些事短期看不到回报,但3年后会拉开数量级的差距。工程化管控比口号管用。光说"不许蒸馏"没用,字节用的是API检测、数据过滤这种工程化手段 。映射到职场:定规矩必须配审计,否则"禁令"就是一纸空文。💡 一个有意思的细节:张一鸣当前一半的工作时间和精力都放在Seed业务上 。创始人亲自下场盯技术路线,这在国内大厂创始人里极为罕见。这也解释了为什么是他在Seed会议上"罕见开口"——真正重要的战略决策,必须由一把手来定调,否则中层会在"业务压力"和"技术操守"之间妥协。总结:张一鸣这波表态,表面是技术路线选择,本质是组织心智的校准——在AI这场长跑里,字节选择"慢就是快"。蒸馏是行业常规操作(马斯克、谷歌都在用 ),但字节偏要"用自己的输出,换自己的排名"。这种"技术洁癖"短期吃亏,长期可能是AGI赛道最稀缺的护城河。你觉得字节这波"拒蒸馏"是真心押注长期主义,还是另一种形式的差异化竞争?Seed团队能扛住"暂时落后"的压力吗?
发布于 山西
1
1
赞
未登录
友善发言
评论
加载中
下载脉脉APP,成就职业梦想
违法不良信息&未成年人有害信息举报电话/客服电话:400 065 0808
违法不良信息&未成年人有害信息举报邮箱/客服邮箱:maimai@taou.com
清朗系列专项行动相关违规信息举报电话:400 065 0808,举报邮箱:maimai@taou.com
个人/企业等被诽谤侮辱、人身权或知识产权等被侵犯、网络谣言的举报地址:maimai.cn/tousu | 涉企虚假不实信息举报投诉专区
京ICP备12005786号-1copyright©maimai.cn