卡坦扎罗：企业算力开销远超人力成本
英伟达副总裁卡坦扎罗在6月21日的闭门访谈上说了句让全场沉默的话：很多企业的AI算力开销，已经远超人力成本了。不是"快追上了"，是"已经超过了"。你花100万养了个AI团队，结果GPU的电费和租金就花了120万。AI还没帮你赚到钱，先把你亏穿了。更讽刺的是，很多公司连ROI都算不清楚。领导问"AI投入产出比多少"，没人答得上来。Token花了多少、哪条业务线在烧、烧得值不值——一笔糊涂账。他给的方案也很直接：分层调度，别什么都上H100。简单任务用小模型，复杂任务才上大卡。但问题是，知道归知道，做到太难。大部分企业的AI团队自己都在无脑调用大模型，谁来管谁？说到底，很多公司上AI，不是因为算清楚了账，是因为怕落后。当年抢着做App、搞中台，是同一种焦虑。卡坦扎罗这番话，本质是在说：AI不是不能投，但别无脑投。算力不是不重要，但别比人还贵。
发布于 山东
分享
评论
1
未登录
友善发言
评论
加载中
