DeepSeek 放出 DSpark：V4 推理速度暴增 400%

每个 checkpoint 都是对应目标模型的 draft model，接上就能用。

如果你想自己训练草稿模型：

DeepSpec 仓库提供了完整的训练管线：

# 1. 安装依赖
python -m pip install -r requirements.txt

# 2. 准备数据（下载 + 用目标模型重新生成答案）
# 详见 scripts/data/README.md
# 注意：默认 Qwen3-4B 设置下缓存约 38TB

# 3. 训练
bash scripts/train/train.sh
# 通过 config_path 选择算法和模型，例如：
# config/dspark/dspark_qwen3_4b.py

# 4. 评估
bash scripts/eval/eval.sh
# 设置 target_name_or_path 和 draft_name_or_path

配好之后，每次使用只需要做一件事：用训练好的 draft checkpoint 替代原来的 draft model，推理框架会自动跑投机解码流程。

训练默认配置假设单机 8 卡。卡少的话调 CUDA_VISIBLE_DEVICES。

最容易出错的地方在数据准备阶段——目标模型重新生成答案时缓存可能极大（默认 38TB）。建议先拿小数据集验证流程跑通，再上全量。

核心概念速查

• DSpark：半自回归草稿模型，并行骨架 + Markov Head 串行修正
• DFlash：纯并行草稿模型（DSpark 的骨架就是基于它）
• Eagle3：自回归草稿模型，采用 TTT（Training-Time Test）
• Confidence Head：预测每个 draft token 被接受的概率
• Hardware-Aware Prefix Scheduler：根据系统负载动态决定验证几个 token

重点：DSpark 真正适合的是有推理服务部署需求的团队——不管是自建还是用 DeepSeek 的 API，本质收益都是"同样的硬件，服务更多人，响应更快"。

DeepSpec GitHub：https://github.com/deepseek-ai/DeepSpec

DSpark 论文：https://github.com/deepseek-ai/DeepSpec/blob/main/DSpark_paper.pdf

HuggingFace Checkpoints：https://huggingface.co/deepseek-ai/DeepSeek-V4-Pro-DSpark

点赞、转发、小心心 ❤️ 欢迎在评论区留下你的想法！

— 完 —