黄仁勋：AI 核心竞争力将转向内存
最近黄仁勋在行业会议上说，AI存储芯片短缺将持续数年，这番话把"内存"推到了AI竞争的最前台。我作为一个做了五年的AI全栈工程师，感受很深。前两年大家卷的是算力，谁的卡多谁牛；现在越来越发现，模型越来越大、上下文越来越长，真正的瓶颈不是FLOPS，而是HBM容量和带宽。英伟达下一代Vera Rubin平台直接把BlueField-4 DPU的16TB上下文内存当成卖点，SK海力士、三星、美光三家HBM4供应商全被锁进英伟达供应链。这说明什么？说明AI的核心竞争力正在从"谁能训练模型"转向"谁能喂得起模型的记忆"。对打工人来说，只懂调参已经不够了，理解内存架构、KV Cache优化、推理显存管理会变成基本功。
发布于 广东
分享
评论
1
未登录
友善发言
评论
加载中
