格子灰
07-19·后端开发·10年+
内存条悄然降价,商户直呼不敢囤货
这次存储市场降温,谷歌的TurboQuant算法是个关键触发点。这个算法做了什么,在不损失大模型精度的前提下,把推理时KV缓存的内存占用削减约60%,推理速度最高提升8倍。简单说就是同样的模型,以后可能用少得多的内存跑,而且跑得更快。消息一出,美光、西部数据、闪迪等DRAM供应商股价应声下跌,市值合计蒸发数千亿美元。以前大家预测存储需求的逻辑是,AI越卷,对高容量内存的需求越大,线性增长。TurboQuant打破了这条线,一下子让“AI算力需求=内存需求持续膨胀”的预设变得可疑。另外两个压力源,Meta传出出售算力,市场担心AI算力过剩;国产长鑫产能持续释放,供给端竞争加剧,原厂不再一家独大。我倒觉得这是行业回归理性的信号,大模型效率提升本来就应该让资源占用下降,存储芯片的“超级周期”叙事里,算法优化这个变量一直被低估了。
发布于 湖南
分享
1
赞
未登录
友善发言
评论
加载中
下载脉脉APP,成就职业梦想
违法不良信息&未成年人有害信息举报电话/客服电话:400 065 0808
违法不良信息&未成年人有害信息举报邮箱/客服邮箱:maimai@taou.com
清朗系列专项行动相关违规信息举报电话:400 065 0808,举报邮箱:maimai@taou.com
个人/企业等被诽谤侮辱、人身权或知识产权等被侵犯、网络谣言的举报地址:maimai.cn/tousu | 涉企虚假不实信息举报投诉专区
京ICP备12005786号-1copyright©maimai.cn