不想当牛马的兔
08-06·运营·10年+
张一鸣:字节不会使用模型蒸馏来推进AI能力
先来科普一下蒸馏到底是什么:用先进的模型当教师(可以有多个),被训练的模型当学生,教师教学生,使学生具备大部分教师的能力,最终学生在参数量比较小的情况下,能具备可观的性能,成本又低很多。只能说国内也就字节有这个底气了,希望字节能创造出自己的独特革命性方法,期待!
发布于 浙江
分享
评论
未登录
友善发言
image-upload
评论
加载中