arXiv cs.AI精选76

Cord:面向掩码扩散语言模型的置信度锚定顺序残差解码

Cord: Confidence-Anchored Order Residual Decoding for Masked Diffusion Language Models

· 1天前

精选理由

提出轻量级自适应解码策略,显著提升掩码扩散语言模型多类任务成功率。

AI 摘要

掩码扩散语言模型(dLLMs)的解码顺序会显著影响生成质量,但常见解码器通常在整个生成过程中采用相同的揭示规则。置信度提供了一个稳健的默认方案,但它衡量的是某个位置当前能被多么确定地预测,而不是揭示该位置对后续解码会有多大帮助。我们提出 Cord,一种轻量级的提示条件策略:将置信度解码作为稳定的参考,并通过关于生成方向、与已揭示上下文的接近程度以及双向填充的几何残差,学习何时以及如何偏离该参考。残差会同时适应提示和不断演化的部分响应。Cord 不会在每个解码步骤重新采样策略动作,而是在每次 rollout 中采样一个低维系数矩阵,由此生成一整条依赖状态的揭示轨迹。这形成了一种基于上下文老虎机的训练方式,可直接利用序列级奖励进行训练,无需进行步级信用分配,也无需更新骨干网络。在三个 dLLMs 和五个推理、代码及约束满足基准测试中,Cord 将置信度解码下的平均任务成功率从 32.0% 提升至 48.2%,并在此基础上进一步优于每个领域中表现最佳的固定残差。行为审计表明,学习得到的残差会引发显著且依赖任务的揭示局部性和双向填充变化。Cord 仅增加 $0.53$M 个可训练参数,无需额外的骨干网络前向传播,推理延迟开销也仅为 5.39%。

查看原文(arXiv cs.AI)