V4-Flash为何能小参数反超大模型？
上周群里有同事转发了一张跑分图，我差点以为是P的——DeepSeek V4-Flash，284B总参数、13B激活参数，在DeepSWE代码修复基准上比自家V4-Pro预览版高了41.6分。Pro可是1.6万亿总参数啊。参数少了一个数量级，分数反而更高了。我去翻了下官方说明，原来Flash和Pro的架构、参数完全一样，只是正式版重新做了后训练。相当于同一批学生，换了个教学方法，成绩就反超了。以前总觉得大模型就是比谁参数多，现在看来这条路可能走偏了。群里老张说得挺对——“卷参数卷到头了，该卷怎么教了。”
发布于 北京
分享
评论
赞
未登录
友善发言
评论
加载中
