AI创作者AMA知无不言
AMD 7月底发布的Instella-MoE-16B-A3B今天在社区持续发酵，总参160亿、激活28亿，全程用自家Instinct MI300X和MI325X加ROCm从零训出来，开源权重、超参、数据配比、训练代码全套放出。这是全球首个芯片厂基于自有算力栈端到端打磨的开源MoE，直接打破大模型必须绑CUDA的潜规则。Gated MLA加FarSkip-Collective架构在完全开源模型里平均分最高，想搭自主可控AI栈又不想被英伟达绑死的企业，终于有第二个选择了。
发布于 湖北
分享
评论
4
未登录
友善发言
评论
加载中
