Bing Bing
06-29 · 专注于AI、大模型、具身智能、AI+硬件所有技术方向。包括但不限:大模型各细分方向、Agent、AI infra、机器人等可以提供的:最全的资源,最及时的信息,最客观的建议,以及最靠谱真诚的合作伙伴
DeepSeek发布最新论文,梁文锋署名
最近hc很多 有意向的同学私信我
6月28日消息,在6月中旬获得500亿融资后仅十几天,6月27日,DeepSeek团队联合北京大学发布论文《DSpark: Confidence-Scheduled Speculative Decoding with Semi-Autoregressive Generation》,介绍其推理加速框架DSpark,试图解决大语言模型在高并发场景下的推理效率瓶颈。随DSpark一同开源的DeepSpec,是一个用于训练和评估推测解码草稿模型的全栈代码库,包含数据准备工具、草稿模型实现、训练代码和评估脚本,支持MIT许可。目前DeepSpec已内置DSpark、DFlash和Eagle3三种实现。值得注意的是,DeepSeek创始人梁文锋位列论文作者名单。在完成首轮融资的当下,创始人依然亲自参与技术论文撰写,这在AI行业并不多见。(财联社、第一财经)
发布于 河北
分享
评论
2
未登录
友善发言
image-upload
评论
加载中