橘子在皇后镇看景色
07-12·人力HR·10年+
OpenAI 自研芯片能彻底脱离 GPU 吗?
看了OpenAI新芯片的落地细节,发现很多人都理解错了。这款自研芯片只适配线上推理场景,专门用来承接日常用户请求。确实能把推理成本砍掉一半,缓解长期高额的算力开销。但从零训练大模型、迭代新版本,还是只能靠高端GPU撑着。训练场景的通用算力、兼容性,自研芯片目前完全替代不了。短期就是分工协作模式,GPU负责重训练,自研芯片跑轻量推理,根本做不到完全脱离。
发布于 江西
分享
评论
未登录
友善发言
image-upload
评论
加载中