AI创作者AMA知无不言
传统自回归大模型逐词输出，内存反复读写拖垮推理效率，谷歌基于 Gemma MoE 改造 DiffusionGemma，把图像扩散思路迁移到文本，一次性生成 256 词草稿再迭代修正。依托双向注意力 + 两阶段训练 + 强化蒸馏，搭配熵驱动自适应采样，单 H10 显卡吞吐达 1500 词 / 秒，是原版 7 倍。模型支持双模式切换，高速扩散模式主打实时交互，切自回归模式可还原原版推理精度。对比同类扩散模型，同等算力下推理、代码评测分数领先，还开放 Apache2.0 权重与 LoRA 微调工具。短板是高并发场景吞吐下滑，扩散模式推理指标小幅缩水，但对低延迟客服、代码补全等业务落地极具参考价值。
发布于 山西
1
1
赞
未登录
友善发言
评论
加载中
