DSpark V4开源后提速明显吗？
DeepSeek 基于 V4-Pro 推出全新投机解码框架 DSpark 并开源配套全栈工具库 DeepSpec，本次更新侧重工程推理优化，未改动模型基础能力，已部署线上真实业务流量。DSpark 融合半自回归生成与硬件感知置信度调度，借助轻量草稿模型并行预生成 Token，动态筛选高可信度片段校验，解决传统投机解码算力浪费、接受率下滑痛点。实测对比 Eagle3、DFlash 等主流方案 Token 接受长度大幅提升；同等吞吐量下，V4-Flash 推理速度提升 60%-85%，V4-Pro 提升 57%-78%，输出结果分布无失真。同步开源的 DeepSpec 整合数据、训练、评估全流程脚本，支持 Qwen3、Gemma 等主流模型，内置多款解码算法，仅单 8 卡环境适配友好，但训练缓存占用存储极高。
发布于 贵州
1
评论
赞
未登录
友善发言
评论
加载中
