OpenAI 自研芯片能彻底脱离 GPU 吗？
OpenAI 那颗自研推理芯片（FTX 2 / 博通合作那款，台积电 3nm）明年流片这事儿，圈里问得最多的是"能不能彻底脱离 GPU"——推理侧能替掉一部分，训练侧 5 年内别想，所谓"脱离"是"脱离 NV 垄断"不是"脱离 GPU 架构"。拆三档看 OpenAI 这颗芯：定位是推理 ASIC，不是通用 GPU：专跑 O 系列 + GPT 推理，FP8/FP16 稠密 + MoE 路由硬加速，训练能力基本没有——Sam 自己说过"训练还得靠 NV，这颗是救推理账单"；性能账：单卡推理吞吐对标 B200 的 60-70%，但成本只有 40%，功耗也低，架在微软 Stargate 那侧铺 100 万颗，比全买 B200 省出来的 Capex 是百亿级；生态账：跑的是 O 系列固化路径，不兼容 CUDA——这意味着 OpenAI 内部推理栈要重写一套，但因为它模型是自家的，不存在"第三方开发者"问题，反而比 AMD 好推。"彻底脱离 GPU"的伪命题在哪：训练侧：FTX 2 不做训练，GPT-5.5/6 训练还得 NV H100/B200 + 微软集群，自研芯碰不到训练；推理侧：能替掉 OpenAI 自用那截（ChatGPT API、Sora 推理），但微软 Azure 上其他模型、企业客户自定义微调那侧还是 NV 主场，一颗 FTX 2 吃不下；更深层：NV 的护城河是"GPU + NVLink + InfiniBand + CUDA"系统绑定，不是单卡——OpenAI 自研是"系统级替代自家自用那截"，不是"推翻 NV 系统"。国内对照：华为昇腾 910C + 寒武纪 590 那条路跟 OpenAI 思路接近——"自研推理 ASIC + 国产制程 + 自家模型栈绑定"，区别是国内是被制裁逼的，OpenAI 是账单逼的。打工人启示："模型-芯片协同设计（co-design）" 接下来 5 年是稀缺技能——懂 O 系列推理 pattern、能写推理 ASIC 的 kernel、能对齐模型架构和硅片约束的人，比纯训模型的值钱。纯 CUDA 优化那侧会被 ASIC 蚕，但"跨栈 co-design"反而会涨。你们组有在摸"模型-芯片协同"这条吗？还是全在 PyTorch 层卷？评论区见。
发布于 山西
1
评论
赞
未登录
友善发言
评论
加载中
