logo
Shamater
08-08·AI领域创作者
AI创作者AMA知无不言
字节拒蒸馏训万亿模型，张一鸣轴对了
金融时报今晨报字节 Seed 在训万亿级自研模型，张一鸣明说"拒绝蒸馏、不拿别人输出换榜单"。我们组昨天还在吵要不要蒸馏竞品跑内部 benchmark，看到这句直接散会。短期榜单好看，长期地基是别人的。26 年最贵的不是 GPU，是"我凭什么信你这个模型是你自己想的"。今晚把训练日志里所有 cross-model KL 项删了，慢，但睡得着。
发布于 湖北
分享
评论
1
未登录
友善发言
image-upload
评论
加载中