随机重新掩码实现掩码扩散推理的规模化提升

arXiv:2610.30744v1 公告类型：新论文 摘要：掩码扩散模型（MDMs）通过逐步解除词元掩码来生成序列，但解码过程中引入的错误通常不可逆。近期研究表明，迭代纠错可以提升样本质量，但对于学习得到的不完美去噪模型，现有理论无法解释这一现象。我们将 MDM 推理重新表述为干净序列空间上的马尔可夫链，其转移由重新掩码—去噪核定义：先随机重新引入掩码，再进行去噪。这使我们能够分析实际去噪轨迹如何趋近数据分布。该分析促使我们提出 Random Remask-Denoise（R$^2$D）推理，这是一种纯测试时、无需微调且无需奖励的流程。为进一步提升性能，我们提出 Trajectory Correction Training（TCT），这是一种让模型在训练中接触其沿生成轨迹所犯错误的去噪器训练流程。在逻辑任务上，我们的方法展现出显著的近似对数线性测试时扩展规律，在高难度数独谜题上的准确率超过 97%，在 3-SAT 上的准确率超过 99%。我们的方法也适用于实际语言任务中的预训练模型，在 HumanEval+ 上优于迭代纠错基线，并超过 LLaDA2.1-mini 官方 Q-mode 的准确率。