logo
登录 / 注册

说说未来六个月个人对AI供应链的判断

头像
陈建宏
07-01 · 解决方案经理
最近和客户、供应链伙伴交流得比较多,也参与了一些项目交付。相比GPU,我发现大家现在讨论更多的是另外几类器件。 分享几个个人观察,仅代表自己的判断。 第一,HBM仍然会是整个产业链最紧张的资源。 过去一年大家都在抢GPU,但真正决定很多高端AI服务器交付节奏的,其实是HBM。训练集群越大,对HBM容量和带宽的依赖越强。未来几个月,我认为HBM依然会是AI供应链里最重要的”节拍器”——谁拿到HBM,谁就更有机会按时交付。 第二,DDR正在进入一个”DDR4收缩、DDR5扩容”的新阶段。 很多人觉得HBM热度过去之后,普通内存市场会恢复平静,但我更关注的是供应结构的变化。 越来越多原厂把资源投入HBM和DDR5,DDR4新增产能越来越少。中国市场仍有大量服务器、运营商设备、工业控制和存储系统继续使用DDR4,因此未来DDR4未必是需求暴涨,而更可能因为供给持续收缩,出现阶段性的紧张。 与此同时,DDR5已经成为新一代服务器平台的标准配置。无论是AI推理、数据库还是云计算,对高容量DDR5的需求都在持续增长。从128GB到256GB,再到512GB,越来越多客户开始把大内存当成默认配置,而不是高端选项。 我的判断是: DDR4的风险来自供给,DDR5的压力来自需求。 第三,企业级SSD的重要性正在被重新认识。 以前客户最关心的是GPU够不够,现在越来越多人开始问另一个问题:数据放在哪里? 向量数据库、Checkpoint、推理缓存、训练数据集,都在快速消耗高性能存储资源。GPU负责计算,但真正决定模型能否高效运行的,还有数据能不能及时送到GPU面前。 很多项目里,企业级SSD已经从配角变成了影响整体性能的重要组成部分。 第四,光互联会成为下一阶段最大的关注点之一。 AI集群从万卡走向十万卡,网络已经不是简单的配套设备,而是决定整体效率的重要因素。 400G、800G,再到1.6T,越来越多项目开始关注的不只是GPU数量,而是GPU之间能不能高速、稳定地协同工作。很多时候,限制集群效率的不是算力,而是连接算力的能力。 如果让我给未来几个月AI服务器供应链排一个关注顺序,我的答案会是: HBM > 光互联 > 企业级SSD > DDR。
说说未来六个月个人对AI供应链的判断脉脉
阅读 1
声明:本文内容由脉脉用户自发贡献,部分内容可能整编自互联网,版权归原作者所有,脉脉不拥有其著作权,亦不承担相应法律责任。如果您发现有涉嫌抄袭的内容,请发邮件至maimai@taou.com,一经查实,将立刻删除涉嫌侵权内容。
相关推荐
最新发布
大家都在看
热门人脉圈
    头像
    我来说几句...