DeepSeek发布最新论文，梁文锋署名
DeepSeek发论文，提速比堆参数香？6月27日前后，DeepSeek与北京大学团队公开了DSpark论文和DeepSpec代码库，梁文锋位列作者名单。它没有继续讲“参数再大多少”，而是盯住一个更贴近真实成本的问题，大模型生成答案时，一个词一个词往外吐，GPU经常在等待和校验中浪费算力。DSpark采用推测解码思路，让小模型先批量猜一段，再由大模型集中验证。公开论文披露，在特定线上服务和测试条件下，DSpark相较成熟基线可把单用户生成速度提高约60%至85%，同时尽量保持整体吞吐。这个数字很亮眼，边界也要看清，它不是所有模型、所有场景都能直接提速八成，部署效果取决于草稿模型质量、业务分布、硬件和时延目标。我很认同DeepSeek这次的方向。模型能力进入高位竞争后，用户真正能感知的是回答快不快、价格降没降、并发扛不扛得住。工程优化省下来的每一秒，最终都可能变成产品毛利。你觉得下一轮大模型竞争，焦点会继续放在参数规模，还是转向推理效率和单位成本？
发布于 湖南
分享
评论
赞
未登录
友善发言
评论
加载中
