DeepSeek发布最新论文，梁文锋署名
事情是这样的，6月27号DeepSeek悄悄在Github上发了一篇新论文，主题是推理加速框架DSpark，梁文锋的名字也挂在作者名单里，这篇论文讲的是一个非常现实的痛点，大模型生成文本太慢了，你问它一个问题它在那儿一个字一个字往外蹦，等得人心急，原因是它每生成一个新词都要重新算一遍，输出一长延迟就爆炸，但是DSpark的核心思路是让模型先并行生成一长串草稿，再用一个轻量级模块校验和修正，算下来比现有方案快了三倍以上，而且已经在V4线上跑了，实测单用户生成速度提升了60%到85%。
发布于 广东
1
评论
赞
未登录
友善发言
评论
加载中
