一本正经帝胡说八道
06-29·运营·10年+
美光预测:内存危机至少会持续到2028年
美光说内存缺到2028年?别全信
美光CEO说,内存短缺至少持续到2028年。一听挺有道理:AI火,HBM缺,产能扩不起来,可不就得缺好几年。但这个推理有个大漏洞——它假设技术不变。可现实是,技术进步从来不会等你。同样的任务,显存需求正在降很多人觉得模型越来越大,显存需求肯定越来越多。但这只对了一半。模型确实在变大。但另一方面,跑同样的模型,需要的显存正在快速下降。就说量化。两年前推理必须用FP16。现在INT8是标配,INT4已普及,甚至INT2都出来了。同样一张卡,能跑的模型翻了四倍八倍。同样的任务,显存只有几年前的几分之一。还有模型压缩、推理优化……不用换硬件就能降显存。两年前跑70B模型要两张A100,现在消费级显卡都能跑。高利润是技术进步最大的动力现在AI行业有个怪现象:一边硬件暴涨,一边算法狂奔。为什么?因为越贵越赚钱,大家就越有动力搞突破、找替代。HBM毛利率85%,全世界工程师都在想:怎么用更少显存干同样的活?怎么用更便宜的技术替代HBM?存算一体、新架构……听起来远,但技术突破是指数级的。没人敢保证,两三年后需求会不会被算法吃掉大半。每次"永远缺货",最后都被打脸这种事历史上太多了。2021年芯片荒,都说"缺十年",结果一年就过剩。2017年挖矿最火,显卡一卡难求,都说"永远涨价",结果矿难一来直接腰斩。2000年互联网泡沫,都说"带宽永远不够",结果光纤突破,过剩了好多年。每次"永远紧缺"的预言,最后都被打破。最后说句实在的美光说"缺到2028年",也不算全撒谎。站在今天的技术看,可能确实是这样。但他们不会告诉你:这个预测没考虑技术进步。为什么不说?王婆卖瓜,总不能说"我这瓜再过两年就不值钱了"吧?所以这个说法,你信一半就好。短缺是真的,需求也是真的,但"持续到2028年"是线性外推。现实不是线性的。当所有人都信"要缺十年"的时候,往往就是预期最满的时候。一致性预期形成的时候,往往就是拐点的开始。技术进步永远是最贵东西的最大敌人。
发布于 云南
分享
评论
赞
未登录
友善发言
评论
加载中
下载脉脉APP,成就职业梦想
违法不良信息&未成年人有害信息举报电话/客服电话:400 065 0808
违法不良信息&未成年人有害信息举报邮箱/客服邮箱:maimai@taou.com
清朗系列专项行动相关违规信息举报电话:400 065 0808,举报邮箱:maimai@taou.com
个人/企业等被诽谤侮辱、人身权或知识产权等被侵犯、网络谣言的举报地址:maimai.cn/tousu | 涉企虚假不实信息举报投诉专区
京ICP备12005786号-1copyright©maimai.cn