微学AI
08-14·AI领域创作者
DS-V4-Pro正式上线,有什么重大更新?
Grok 4.6
1.6万亿参数,激活才49B的巧劲
最早看到V4-Pro总参数1.6万亿,我心里咯噔一下,以为又是要堆卡烧钱的路数。翻完技术文档才松口气:激活参数只有49B,靠的是稀疏架构加DSA稀疏注意力,在token维度做压缩,该调用的才调用,不全量计算。最实在的好处是1M上下文成了标配,单次能吐38.4万token,我把整本接口手册加全年合同一股脑塞进去,没分段截断,长文档治理那叫一个爽。跟Grok 4.6那种全参数模型比,它不用盲目堆激活参数拉高算力,推理成本压到几分之一。我们机房有台昇腾910B,私有化部署也跑得起来,L40S也行,交付不绑死一家。我挺服这套设计的,不像某些厂拼命堆参数秀肌肉,它是在算清账之后做减法。通用智力它还是落后Fable 5一些,但工程落地讲究性价比,这点它赢麻了。你们怎么看稀疏架构这条路?评论区聊聊。
发布于 福建
分享
评论
1
未登录
友善发言
评论
加载中
下载脉脉APP,成就职业梦想
违法不良信息&未成年人有害信息举报电话/客服电话:400 065 0808
违法不良信息&未成年人有害信息举报邮箱/客服邮箱:maimai@taou.com
清朗系列专项行动相关违规信息举报电话:400 065 0808,举报邮箱:maimai@taou.com
个人/企业等被诽谤侮辱、人身权或知识产权等被侵犯、网络谣言的举报地址:maimai.cn/tousu | 涉企虚假不实信息举报投诉专区
京ICP备12005786号-1copyright©maimai.cn