Claude自研芯片，不靠英伟达跑模型
有个数据让我愣了好一会儿：据斯坦福HAI的统计，跑GPT-3.5级别的模型，每百万token的查询成本，从2022年11月的20美元跌到了2024年10月的0.07美元，两年降了280多倍。但Anthropic还是觉得不够，转头就要自己造芯片。为什么？因为规模上去了，逻辑完全不一样。Anthropic现在的年化营收470亿美元，服务几十万企业客户和几百万个人用户。你算一下，每天几十亿次查询，每次推理都要走GPU。博通CEO透露过，OpenAI那个Jalapeño定制芯片在早期测试里，每token成本比标准GPU推理低了50%。对Anthropic这种体量来说，50%不是小钱，是每年几十亿美元的差距。而且有意思的是，他们不是要替换英伟达。声明里说得很清楚，亚马逊Trainium、谷歌TPU、英伟达GPU、AMD的MI450，这些该用还用。自研芯片是"多芯片策略"里的一环，先用合作伙伴的芯片顶着，等自己的芯片成熟了再切过来。另一件事也挺值得玩味：他们找三星聊2nm代工，三星SF2P工艺良率已经接近70%了。三星今年5月还参与了Anthropic的H轮融资，成了"战略基础设施合作伙伴"。这关系挺微妙的，投资人和供应商角色重叠，谈判桌上到底谁说了算。我一直在想一个问题：AI公司自己造芯片，到底是不是一条正确的路。谷歌TPU做了十年七代，确实是成熟了。但OpenAI靠博通做Jalapeño，九个月就搞出来了，走的是一条更轻的路。Anthropic选择自己建团队从零开始，周期更长，但最终对架构的掌控也更强。三条路，三种打法，没有标准答案。自研芯片不是技术问题，是算账问题。五到七亿美元的设计成本，换每年几十亿的推理成本节省，只要规模够大，闭着眼睛投。你如果是Anthropic的CEO，你会怎么选？评论区聊聊。
发布于 福建
1
评论
1
未登录
友善发言
评论
加载中
