OpenAI 自研芯片能彻底脱离 GPU 吗？
OpenAI自研芯片曝光后，不少人提出疑问：大模型能否彻底脱离GPU？答案短期内不可能。自研芯片优势集中在大模型推理、长文本场景，针对Transformer架构做硬件优化，算力功耗比优于通用GPU。但通用性是硬短板，GPU支持渲染、训练、多类型算法、通用仿真等多元任务，自研芯片仅适配自家大模型业务。生态差距难以弥补，CUDA配套工具链、海量开源优化方案、算子库全部围绕GPU搭建。自研芯片需从零搭建适配工具，开发、调试成本极高。企业混合部署会成为主流：自研芯片承载核心推理业务，GPU负责模型训练、多场景杂活。短期不存在完全替代GPU的硬件，二者只会长期互补共存。
发布于 河北
1
1
赞
未登录
友善发言
评论
加载中
