微软自研MAI模型能省下多少开销？
Jalapeño最诱人的数字是啥？ 推理成本降低50% 。大模型公司最大的开销之一就是推理——每次用户提问都在烧钱。OpenAI这波操作，等于给自己装了个“省油模式”。博通CEO陈福阳说，Jalapeño性能对标英伟达Blackwell和谷歌TPU。更狠的是开发速度： 9个月流片 。通常这活儿得两三年。OpenAI还用了自家模型来辅助芯片设计——AI帮人造AI芯片，这闭环玩得溜。但成本下降 ≠ 摆脱GPU。推理省下来的钱，可能还得砸回训练上去买更多GPU。OpenAI跟微软搞的吉瓦级数据中心，依然需要GPU撑场子。
发布于 北京
分享
评论
1
未登录
友善发言
评论
加载中
