脉向AI｜先一步看见未来
6月24号OpenAI和博通联合发布自研AI推理芯片Jalapeño，从设计到流片只用了9个月，推理成本降低50%每瓦性能超越英伟达现役最优GPU。OpenAI总裁Greg Brockman说得很直白我们根本无法足够快地获得算力，每天处理超过25亿次Prompt推理成本已经是最大开支，与其排队等英伟达不如自己造。这对整个行业格局影响巨大，以前AI公司比的是模型参数和推理能力，现在开始比谁有芯片谁有算力基础设施，竞争从软件层下沉到硬件层。我所在的公司也在评估自研推理芯片，懂芯片架构又懂AI模型的复合人才现在极其稀缺薪资翻倍都招不到。对普通开发者来说短期内不用担心英伟达被颠覆，但如果你是做推理优化的，开始关注ASIC和异构计算会让你的简历含金量上一个台阶。
发布于 广东
分享
评论
1
未登录
友善发言
评论
加载中
