logo
张桢
1天前 · 深圳市蕾萌智能科技有限公司
为什么HBM要放在GPU旁边？
AI算力真正拼的，不只是GPU有多快。GPU算得再快，数据跟不上，算力一样发挥不出来。HBM直接部署在GPU旁边，通过硅中介层和超宽数据通道高速交换数据。距离更近、通道更宽、带宽更高。所以到了B300、GB300这一代高端AI服务器，内存已经不是简单的“配套”，而是决定GPU算力能不能真正跑出来的重要一环。#HBM #GPU #AI服务器 #B300 #GB300 #高端算力 #人工智能 #算力硬件
发布于 广东
分享
评论
赞
未登录
友善发言
image-upload
评论
加载中