SpecFold：折叠多分支冗余以加速扩散语言模型的推测解码

arXiv:2610.04875v2 公告类型：replace-cross 摘要：扩散大语言模型（DLLMs）通过迭代式块去噪生成文本，而多分支推测解码通过在一次前向传播中同时验证主分支和多个草稿分支来加速这一过程。现有 DLLM 加速方法主要利用去噪步骤之间的时间冗余，而我们发现了每个推测验证步骤内部一种与之互补的冗余维度：多分支计算冗余。在推测验证过程中，草稿分支继承其父分支的大多数词元，仅对少量额外位置解除掩码，导致各分支的大部分隐藏状态保持高度相似。我们提出 SpecFold，这是一种算法与系统协同设计方案，利用这种多分支冗余来降低多分支推测验证的成本。在算法层面，SpecFold 执行词元级残差门控，并通过折叠式注意力和 FFN 选择性地复用父分支的计算，同时保留残差隐藏状态。在系统层面，基于 Triton 的内核实现通过高效的稀疏多分支执行，将这种细粒度复用转化为端到端吞吐量提升。SpecFold 与时间缓存方法正交，并兼容现有的 DLLM 推测策略。在涵盖两个 DLLM 系列、五个模型和五项标准基准的评估中，SpecFold 的吞吐量最高达到 Spiffy 的 1.64 倍、常规解码的 1.99 倍，同时保持相当的任务性能。