张一鸣：字节不会使用模型蒸馏来推进AI能力
张一鸣为什么宁可输，也不抄近道？字节的AI团队内部吵翻了。一边是研究员拍桌子：“隔壁用蒸馏，三个月就追上来了。”另一边是技术负责人摇头：“张一鸣不会同意。”有人不服气，直接去问。张一鸣的回答很干脆：不用蒸馏。哪怕短期落后，也不走这条路。消息传开，Seed团队静默了五分钟。蒸馏省时间、省算力、省电费。国内不止一家大厂在这么干。字节有人算过一笔账，用蒸馏能把训练成本压下去将近一半。但张一鸣把这条路堵死了。他图什么？有人私下吐槽，这是拿技术团队的KPI给TikTok的合规买保险。毕竟美国那边盯着字节的一举一动，任何可能被解读为“取巧”的操作，都是雷。可真要是只为了避险，直接下个行政命令就够了，犯不着在全员大会上把话讲得这么重。会议纪要里留了一句话，后来被内部反复传阅：“愿意为更长远的目标，牺牲短期利益。”五十岁的人了，还把一半工作时间泡在Seed团队。他哪是不知道捷径在哪，他是怕团队走惯了捷径，以后连路都不会走了。后来有个算法工程师在飞书签名里改了一句话：“我们不蒸馏，我们提纯。”你觉得，在一家以算法推荐起家的公司，戒掉“走捷径”的瘾，到底靠制度，还是靠信仰？
发布于 河南
分享
1
3
未登录
友善发言
评论
加载中
