翻身咸鱼的人
08-12·BD商务·5年+
Claude自研芯片,不靠英伟达跑模型
这事儿靠谱,但不容易。Anthropic(Claude母公司)背靠亚马逊,用的是AWS自研的Trainium和Inferentia芯片。这主要是为了降本和去英伟达化。英伟达GPU虽强,但太贵且供货紧。自研芯片虽然单卡性能可能稍弱,但通过集群优化和专为Transformer设计的架构,能在推理成本和能效比上打平甚至超越。这更像是一场“软硬结合”的豪赌,赌的是自家模型架构能完美适配自家芯片。
发布于 山西
分享
评论
赞
未登录
友善发言
评论
加载中
下载脉脉APP,成就职业梦想
违法不良信息&未成年人有害信息举报电话/客服电话:400 065 0808
违法不良信息&未成年人有害信息举报邮箱/客服邮箱:maimai@taou.com
清朗系列专项行动相关违规信息举报电话:400 065 0808,举报邮箱:maimai@taou.com
个人/企业等被诽谤侮辱、人身权或知识产权等被侵犯、网络谣言的举报地址:maimai.cn/tousu | 涉企虚假不实信息举报投诉专区
京ICP备12005786号-1copyright©maimai.cn