雪咤
07-03·全栈工程师·5年+
扎克伯格:Meta要卖算力,抢AWS饭碗
算力过剩时代AI infra往哪转
Meta卖算力这件事,其实暴露了一个行业信号:大厂自己建的AI基础设施开始出现富余。这对做AI infra的工程师既是危机也是转机。危机在于纯粹堆集群、调网络、买卡的日子可能快结束了;转机在于谁能把富余算力高效变现,谁就是下一个阶段的核心人才。我身边的AI infra团队已经在从训练集群建设往推理优化和算力调度平台转。具体来说,有几个方向值得跟:一是推理成本优化,毕竟卖算力最后比的是单位token成本;二是多云算力调度,帮企业在不同云之间找最优价格;三是模型部署和微调平台,让买算力的客户不只是跑训练,还能直接跑业务。如果你还在只做训练集群的运维和扩容,建议现在开始补推理工程和成本优化,这个转变大概需要半年到一年。
发布于 广东
分享
评论
1
未登录
友善发言
image-upload
评论
加载中