mhdidh
08-07·健身教练·2年
字节内部禁令:拒绝蒸馏开源大模型
字节内部禁令:拒绝蒸馏开源大模型
职场和技术研发,同样都要面对捷径和长期主义的抉择。消息传出字节Seed立下内部红线,禁止蒸馏外部开源大模型,宁可接受短期榜单上的落后,坚持原生预训练路线,不靠复刻别家模型的输出快速冲成绩。蒸馏是行业通行的捷径,低成本、见效快,可以迅速拉高评测分数,但代价是团队很难沉淀底层原创能力,本质一直在模仿跟跑。放到我们普通人身上也一样,很多工作有现成的模板、现成的方案可以直接拿来用,短期效率很高,但长期会丧失独立解决复杂问题的本事。走捷径可以追上一时,却很难实现真正的超越。如果是你做技术,面对业绩压力,能接受短期落后去坚持自研路线吗?
发布于 广东
分享
评论
未登录
友善发言
image-upload
评论
加载中