小卷的IoT
07-08·AI领域创作者
黄仁勋:AI 核心竞争力将转向内存
老黄说AI核心竞争力要从算力转向内存,很多人当段子听。我给你翻译成人话。你买了一块H100,一百万。跑大模型压测,GPU实际利用率不到30%。剩下70%干嘛?等着HBM把数据从内存搬过来。等于你雇了个年薪百万的技术专家,结果他每天九点上班先泡茶刷手机到下午四点,真正干活就俩小时。我们团队测过——不加内存优化,加一倍服务器节点,吞吐量提升不到15%。你烧的是电,买的不是算力,是"等待的尊严"。美光HBM毛利率飙到84.9%,比茅台还暴利。SK海力士在韩国投了五千多亿美元建厂,产能缺口还有50%以上。2026下半年内存价再涨40%。过去五年大家抢GPU,未来五年抢HBM。最扎心的是国内——华为昇腾拿不到HBM3e,只能用HBM2e硬扛,带宽直接差一代。国内AI芯片的胜负手早就不在FLOPS了,在能不能拿到HBM4。总结一句老黄没明说的话:你公司AI能力的上限,不取决于你有多少张GPU,取决于你的内存体系能喂多快。算力是面子,内存才是里子。
发布于 山东
分享
评论
2
未登录
友善发言
image-upload
评论
加载中