编辑，而非模仿：面向多模态推理的最小编辑同策略蒸馏

arXiv:2610.30231v1 公告类型：新论文 摘要：视觉数学推理可能在推理开始之前就已失败：当视觉语言模型（VLM）误读图示时，后续推理便会基于错误前提展开。这一感知瓶颈在较小模型中尤为突出，而准确的文本描述可以显著缩小其与较大模型之间的差距。由于在推理时获取此类描述需要额外的标注或模型调用，我们提出了最小编辑纠错式同策略蒸馏。该方法将参考图示描述和经验证的参考解答作为仅在训练阶段使用的信息，由教师模型依据最小编辑目标对学生模型生成的错误轨迹进行评分，且仅由教师模型不认可的词元贡献纠错损失。对于正确轨迹，则采用基于任务奖励的强化学习。这既保留了同策略监督，又避免了对完整回答的模仿。在不同模型规模下，该方法均无需在测试时提供描述，其表现达到或超过在推理时获得参考图示描述的对应基础模型。它还提升了感知相关任务的表现，尤其是底层几何感知能力，并能迁移至外部数学与感知基准。由于最小编辑教师模型评估的是纠错，而非生成自身的解答，因此即使使用参数冻结的同等规模教师模型，该方法依然有效，但在大多数指标上的增益小于使用更大教师模型时的增益。