logo
泰山弟子_dmnY
14小时前·AI领域创作者
GPT-5.6提速14倍,是怎么做到的
别被"14倍"晃花了眼，OpenAI这次没动模型脑子，动的是底座，把GPT-5.6 Sol搬到了Cerebras的晶圆级芯片上跑。传统GPU每生成一个token就得从HBM显存里重新搬一次权重，被内存带宽卡得死死的；Cerebras直接把44GB权重塞进片上SRAM，数据不用搬家了，decode自然就飞起来了，750 tokens/秒。
发布于 广东
分享
评论
赞
未登录
友善发言
image-upload
评论
加载中