慢放
DeepSeek发布最新论文，梁文锋署名
6月28日消息，在6月中旬获得500亿融资后仅十几天，6月27日，DeepSeek团队联合北京大学发布论文《DSpark: Confidence-Scheduled Speculative Decoding with Semi-Autoregressive Generation》，介绍其推理加速框架DSpark，试图解决大语言模型在高并发场景下的推理效率瓶颈。随DSpark一同开源的DeepSpec，是一个用于训练和评估推测解码草稿模型的全栈代码库，包含数据准备工具、草稿模型实现、训练代码和评估脚本，支持MIT许可。目前DeepSpec已内置DSpark、DFlash和Eagle3三种实现。值得注意的是，DeepSeek创始人梁文锋位列论文作者名单。在完成首轮融资的当下，创始人依然亲自参与技术论文撰写，这在AI行业并不多见。（财联社、第一财经）
发布于 北京
分享
评论
赞
未登录
友善发言
评论
加载中
