并行不等于快
扩散模型一次预测多个被掩码的位置，但每轮只提交其中一部分，剩下的留给下一轮。上海交大邓志杰在 CNCC 2026 上给了一把尺子：实际速度约等于每轮有效提交的 token 数除以每轮耗时。前者叫 TPF，后者看 TPS，还得同时盯答案正确率和代码通过率，否则加速可以靠牺牲质量换来。
从块内走到跨块
LLaDA 把这条路线推到 8B。Block Diffusion 用块内扩散、块间自回归，已完成的块进入 KV 缓存，代价是并行被锁在块内。D2F 让多个块同时去噪，前块噪声低、后块噪声高。Dream 走另一条路：复用自回归权重，把注意力改成双向，训练目标换成恢复掩码。
Fast-dLLM 不动训练也能提速：近似 KV 缓存压低每轮耗时，置信度解码抬高每轮提交量，单张 A100 上从 6.7 TPS 拉到 54.4，准确率由 79.3% 落到 78.5%。这就是为什么只看 TPF 会误判。
两种口径
同一批方法有两种报数方式。D2F 论文给相对加速：GSM8K 上比同尺寸 LLaMA3、Qwen2.5 快 2.5 倍以上，对未优化的原生扩散模型最高 50 倍；邓志杰坚持绝对口径，两张 H100 上 MBD-LLaDA2-Mini 约 746 TPS，CForce 训练后平均 TPF 从 6.94 升到 9.08。分母不同，倍数搬不到部署现场。
原文链接：https://www.leiphone.com/category/private/T9k5sQixxLljsoH7.html
来源：雷峰网
