通过部分信息分解解释大语言模型的推理

arXiv:2610.00571v1 公告类型：cross 摘要：大型推理模型（LRM）在解决复杂数学问题方面取得了显著进步，但通常会生成冗长、重复或错误的推理轨迹。在本文中，我们提出了一种新的可解释性框架 SLIDER，用于评估推理过程的质量。SLIDER 利用了信息论中一个新兴的研究方向——部分信息分解，将两个连续推理步骤之间关于最终答案的信息解耦为非负的组成部分：独有信息（来自前序步骤或当前步骤）、冗余信息以及协同信息。在此分解的基础上，我们提出了逐步重复推理指数（Step-RRI）这一具有理论依据的度量，用于评估当前步骤 $S_i$ 中与答案相关的信息，相对于其独有贡献和协同贡献，是否主要与过去的步骤 $S_{<i}$ 存在冗余。为评估 Step-RRI 检测重复性的有效性，我们将 SLIDER 应用于 PRMBench 数据集中的冗余类别。与基于嵌入相似度和信息增益的基线方法相比，Step-RRI 将步骤级冗余识别准确率提高了超过 $10$ 个百分点。随后，我们定义了轨迹-RRI（Trajectory-RRI），这是一种衡量单条推理轨迹重复性的聚合指标。为展示其实用价值，我们证明，在 QwQ-32B、DeepSeek-R1-Distill-Qwen-32B 和 GPT-4.1 上，平均 Trajectory-RRI 与实际推理长度具有很强的相关性，这说明它可作为提升推理效率的一种信号。最后，我们提出了由 Trajectory-RRI 引导的微调数据选择方法，结果表明，根据 Trajectory-RRI 选择训练数据，可以在基本保持任务性能的同时，提高微调模型的推理效率。