张一鸣：字节不会使用模型蒸馏来推进AI能力
张一鸣在上个月的会议上说，字节不会用蒸馏技术来推进AI模型能力，哪怕这意味着暂时落后于国内竞争对手。一个靠算法起家的公司，在AI赛道上选择了最慢的路。不是因为慢更正确，是因为蒸馏这条路，字节走不起。蒸馏指的是用更先进的前沿模型（通常由其他公司开发）的输出来训练自己的模型。说白了就是“偷师”，用别人的好成绩来训练自己的学生。Anthropic之前指控DeepSeek、Moonshot、MiniMax、Z.ai、阿里巴巴等多家中国AI公司对Claude模型进行蒸馏。阿里已经撤销了员工对Claude的访问权限。蒸馏这件事在行业里很普遍，但普遍不等于安全。张一鸣的决定部分受到字节与美国政府之间因TikTok所有权问题而产生的复杂关系影响。字节被美国盯着，任何“走捷径”的行为都会被放大。一个在悬崖边上跳舞的公司，确实不能走那条最快但最危险的路。他说“我们应该愿意为长期目标牺牲一些短期收益”。翻译一下就是：宁可慢一点，也不能被抓到把柄。做AI有很多条路，蒸馏是最快的一条，但不是唯一的一条。字节选了更慢的路，不代表字节做不出好模型。只是这条路确实更长。
发布于 中国香港
分享
1
赞
未登录
友善发言
评论
加载中
