昇腾950DT（Ascend 950DT）核心定位面向大模型训练+推理Decode（解码）阶段，主打超大带宽、大容量显存，是国产高算力NPU，计划2026年Q4量产。一、架构与核心规格- 架构：第三代达芬奇，双Die UMA（统一内存访问），36个AI Core- 编程模型：SIMD/SIMT双模型，兼顾大块向量与碎片化数据处理- AI CPU：4个集群，共8颗自研Linx816处理器- 二级缓存：128MB统一缓存二、算力（低精度为主）- FP8：1 PFLOPS- FP4/MXFP4：2 PFLOPS- 支持格式：FP8、MXFP8、MXFP4、HiF8（自研）三、显存（核心优势）- 类型：自研HiZQ 2.0（朱雀）HBM- 容量：144GB- 带宽：4TB/s（950PR的2.5倍）- 访问粒度：128字节（更适配离散访问）四、互联能力- 芯片间互联：灵衢UB2.0，双向2TB/s- 收发器：72路×112Gbps，18端口- 单跳时延：低至200ns五、关键性能与对比- 推理性能：单卡约为H20的2.87倍- 高并发Decode时延：降低70%- 算力带宽比：120，重度访存密集型优化六、950DT vs 950PR（同芯双版本）- 950DT（Decode+Training）：144GB、4TB/s、FP4=2P，主打训练/长文本解码- 950PR（Prefill+推荐）：128GB、1.6TB/s、FP16=1P，主打预填充/推荐场景七、适用场景- 大模型训练（千亿级参数）- 长文本推理解码（Decode）- 高并发生成式AI服务- 万卡级智算集群
发布于 广东
分享
1
1
未登录
友善发言
评论
加载中
