OpenAI 自研芯片能彻底脱离 GPU 吗？
这周海外算力预算评审，硬件团队聊Jalapeño芯片，不少管理层以为以后不用大批量采购英伟达卡。这款芯片只做线上API推理，日常用户对话、代码调用负载能承接大半，单token成本直接砍一半，长期能压巨额月度算力开销。但预训练、新模型微调、前沿算法实验，全流程还是依赖H100/B200集群，自研芯片架构不支持灵活迭代训练。还有隐性成本，自研芯片适配自家模型没问题，第三方开源模型、多模态新任务兼容性很差，必须保留GPU集群兜底。软件栈短期没法完全脱离CUDA生态，改造编译器还要额外投入人力。只能分流推理账单，训练、研发实验环节还是绕不开GPU，未来几年算力采购要双硬件并行，完全脱离英伟达硬件现实吗？
发布于 湖北
分享
1
3
未登录
友善发言
评论
加载中
