DeepSeek发布DSpark提速60%
DeepSeek刚刚扔了个“加速包”，叫DSpark就在今天，DeepSeek联合北大搞了个大新闻——发布DSpark推理加速框架。说白了就是给AI大模型装了个“涡轮增压”，生成速度直接拉高60%到85%。怎么理解呢？以前AI是一个字一个字往外蹦，现在是先批量猜一串，再一次性校验，猜对的直接过。官方说同等吞吐量下，单用户生成速度能提60%-85%。这玩意儿不光自家V4能用，Qwen、Gemma这些开源模型也能沾光。关键是今天刚发就开源了，GitHub上代码、论文全都有。搞AI的同行可以去瞅瞅。
发布于 北京
分享
评论
1
未登录
友善发言
评论
加载中
