恰到好处：扩散语言模型的令牌级提前停止
Just on Time: Token-Level Early Stopping for Diffusion Language Models
精选理由
提出无需训练的逐Token提前停止方法，兼顾生成质量与扩散语言模型推理效率。
AI 摘要
arXiv:2602.11133v3 公告类型：替换 摘要：扩散语言模型通过迭代式细化生成文本，但这一过程通常计算效率不高，因为许多令牌早在最终去噪步骤之前就已趋于稳定。我们提出了一种无需训练的令牌级提前停止方法，可在每个位置独立识别收敛状态。该方法利用从模型预测结果和局部上下文中提取的轻量级信号，动态确定何时可以最终确定单个令牌。由此，无需针对特定任务进行微调，即可实现按令牌自适应冻结，大幅减少所需的扩散步骤总数。在涵盖数学推理、通用问答和科学理解的多样化基准测试中，我们的方法在保持生成质量的同时，实现了显著的效率提升。