DeepSeek开源DSpark框架
DeepSeek又搞事情，这次省的不是算力是时间大模型圈最近都在聊DSpark。我看了下技术原理，其实不复杂。大模型生成慢，本质上是“猜字游戏”——每写一个字都得把前面所有字重新看一遍。DSpark的思路是：找个跑得快的小模型先打草稿，大模型只负责审核。打草稿要快，审核要准。DSpark最聪明的地方是“动态分配”——不是所有草稿都审，而是给每个字打分，靠谱的先审，不靠谱的跳过。把算力花在刀刃上。已经在DeepSeek-V4线上跑过了。同样吞吐量下用户体感速度翻倍。这波操作对普通用户最直观的感受就是：不转圈了。
发布于 北京
分享
评论
1
未登录
友善发言
评论
加载中
