黄仁勋：AI 工厂取代数据中心，算力即电力
做了十年数据中心，看到黄仁勋说"数据中心正在变成AI工厂"，我后背一阵发凉，这不是比喻是真的要变天了。先说说以前的数据中心是什么：就是个大仓库，堆一堆服务器，主要干三件事——存数据、跑网页、做计算，本质上是个"信息仓库"，衡量指标是什么？是 uptime 可用性、是PUE、是存储容量、是带宽，运维人员天天盯着别宕机就行。AI工厂完全是另一个物种，它是生产token的工厂，输入是电力和数据，输出是智能token，衡量指标从"能不能用"变成了"每秒钟能产出多少token、每度电能产出多少token"。以前我们买服务器看CPU看内存看硬盘，现在买服务器看GPU看互联看液冷，整个技术栈全换了。以前数据中心选址看网络看地段，现在选址看哪里有便宜的电哪里能拿到电网指标，没有电一切免谈。Vera Rubin新系统说推理性能提升350倍，30倍token吞吐提升，这意味着什么？意味着以前需要30个数据中心干的活，现在1个就能干了，旧的数据中心如果不改造就是一堆废铁。我们公司上个月已经把一半的传统服务器下架了，全换成GPU服务器，运维团队裁了三分之一，又招了一批懂GPU懂液冷懂AI推理优化的人，老运维要么转型要么走，非常残酷。有没有IDC同行？你们那边开始改造了吗？传统运维是不是真的要被淘汰了？
发布于 广东
分享
评论
1
未登录
友善发言
评论
加载中
