DeepSeek-AI与北京大学联合发布了DSpark，一个面向大语言模型推理加速的推测解码框架。该框架已部署于DeepSeek-V4的线上服务系统，与此前的生产基线MTP-1相比，在相同吞吐量水平下将单用户生成速度提升了60%–85%（V4-Flash）和57%–78%（V4-Pro）。团队同步开源了DSpark模型权重及配套训练仓库DeepSpec。
hwang 4
Rabe (Rabe) 5
设计一个 draft model 的意思吧，看上去是对各种模型都可以用的
jls (梨涡近点ಣ) 6
本地部署的 是不是还得自己弄下来重新部署这个框架
qbndp 8
在mimo ultra内测的时候，我就开始自发宣传最高1500tps的mimo ultra模型，快即无敌。在AI高速发展的今天，高tps肯定不止是mimo ultra一个，其他模型肯定会追赶上来，认真看了几篇ds的新闻都没有明说最高tps多少，等官方发通稿全量部署上线新功能，我再去测测
ds总是这么优秀 默默就更新了
4.1正式版快来吧 后训练冲冲冲
hanted (ᴇɴᴄ)
10
感觉这两天都很快，已经连着三天玩两亿词元起步了
Adam.H (阿达姆)
11
这不就是忙时降智么… 
嗯，和gpt聊了一下，感觉不是这么回事
我的理解，以前大模型每一个词都要整个模型所有层都走一遍，现在是N个词一个batch，只走一遍，然后通过一定算法选择合适的字句输出；类似于人脑已经想好了大概要表达的意思，最后说的时候稍微调整下词汇让表达连贯的感觉
peop (peop) 12
这个新功能早就部署了吧 上次的扩容提速应该就是这个 论文里说v4上线2周后就部署了
Ryens 14
投机解码又越来越流行了，利好本地推理