我来爆个料
百度文心一言5.0是1.2万亿参数的MoE模型，中文能力反超GPT-4，这个我实测过，中文理解和生成确实细腻很多。以前做中文NLP任务，GPT-4经常理解不了中文梗和行业黑话，写出来的东西总有翻译腔，文心5.0这块好太多了。万亿MoE的工程难度极大，专家路由、负载均衡、训练稳定性每一个都是坑，百度能做出来说明国内大模型工程能力真的上来了。但模型好只是第一步，怎么把万亿模型的能力下沉到业务场景，怎么把推理成本打下来，这些才是真正考验工程团队的地方。AI应用的黄金时代才刚开始，懂模型又懂业务的人最值钱。国产大模型越做越好，这是我们这代技术人的幸运，能参与世界级的技术竞争。国产大模型的未来值得期待，我们这代人能见证历史很幸运。
发布于 广东
3
评论
1
未登录
友善发言
评论
加载中
