约束感知训练

arXiv:2610.02909v1 公告类型：新 摘要：使用语言模型生成程序时，约束解码可以应用程序分析，以排除违反语法、作用域或类型规则的标记。然而，这里存在重复：标准训练已经教会模型抑制被这些分析拒绝的标记。这种重复引出了一个问题：既然我们无论如何都会在推理过程中执行某种分析来过滤掉一组标记，那么能否在训练过程中完全不教模型这种分析？这种外部化是否会带来更高效的模型？本文定义了一种满足这一外部化要求的通用约束感知目标，并将外部化的优势形式化为关于模型规模和数据效率的三个具体定理。我们通过受控的合成实验表明，这些定理在训练动态过程中依然成立：在参数数量和数据量相同的情况下，与普通交叉熵训练相比，约束感知训练能够获得更低的预测损失，从而促使人们采用融合生成过程中所使用分析的训练目标。