什么才是好的去掩码策略？扩散语言模型中学习式去掩码的受控研究

掩码扩散语言模型并行生成词元，但其效率取决于哪些预测被确定下来。学习式去掩码策略能够改善速度与准确率之间的权衡，但这些策略在监督方式、输入和容量方面存在差异，使人难以辨明哪些选择真正重要。我们将有监督策略视为通过教师对解码过程进行蒸馏，并独立考察以下因素：教师将哪些预测标记为可确定、策略在哪些状态下模仿教师、策略观察哪些信息，以及函数评估次数（NFE）必须减少多少才能抵消策略带来的开销。我们发现，在较低 NFE 下，将与最终输出一致的预测标记为可确定过于宽松；单独使用隐藏状态的效果较弱，但其可以补充置信度信息。在测试的各项设置中，对于参数量不超过 7.5M 的策略，NFE 减少约 10% 就足以抵消策略开销。因此，我们使用置信度和隐藏状态，基于轨迹收缩目标训练策略；这些目标只接受确定后仍保持在参考轨迹上的预测。在 LLaDA-8B-Instruct 上，所得的 856K 参数策略在 GSM8K 上实现了最佳的准确率—NFE 前沿和最高吞吐量，在 MATH-500 和 HumanEval 上的适中目标设定下具有竞争力，并且在很大程度上能够迁移至 Dream-7B-Instruct。