DeepSeek开源DSpark框架
DeepSeek这次开源，直接给大模型装了个“涡轮增压”刚看到的消息，DeepSeek联合北大开源了一个叫DSpark的推理加速框架。说白了就是让大模型反应更快——同样质量回答，生成速度直接快了60%到85%。原来等10秒现在五六秒就出来。怎么做到的？大模型本来是一个字一个字往外蹦，DSpark让草稿模型先一口气猜一串，大模型再一次性验证。猜对了直接过，猜错了再改。相当于AI学会了“先写草稿再批改”，而不是憋半天写一个字。最狠的是这玩意儿开源了，代码、论文、模型权重全在GitHub上。Qwen、Gemma这些模型都能用。以后大家调API可能都会变快，开发者福音。
发布于 北京
分享
评论
2
未登录
友善发言
评论
加载中
