贺波
06-30 · 滴滴出行
OpenAI底层优化使模型推理成本减半
OpenAI 工程师透露,公司通过提升服务器资源利用率等底层优化,成功将 AI 模型的推理成本降低了 50% 以上。这意味着运行 AI 所需的英伟达芯片更少,节省的成本可用于降低 API 定价或提高用户使用限额。
发布于 北京
分享
评论
4
未登录
友善发言
image-upload
评论
加载中