用于定位推理失败的隐状态探针的有效性

arXiv:2610.22046v1 发布类型：新 摘要：验证一条长推理轨迹的最终答案，可能表明该轨迹是错误的，但无法区分三种情况：问题可能超出了模型的能力范围；再次尝试可能会成功；或者在原本可以挽救的轨迹中，某一步导致了轨迹失败。标准的隐状态探针以最终答案的正确性为训练目标，而这一标签混淆了上述情况。蒙特卡洛展开可以区分这些情况，并定位导致失败的步骤，但会产生额外的推理成本。我们测试了 4B 和 8B 推理模型的隐状态，以判断失败类型和失败步骤，并将每个探针与不使用隐状态的最强基线进行比较。在错误的 8B 轨迹中，confidence probe（一种在中点截断处进行校准的正确性探针）漏判了 81% 的“单一步骤使轨迹变得不可挽救”的情况，以及 47% 的“再次尝试将会成功”的情况。对相同隐状态采用不同训练设计的探针颠倒了这两类失败的排序，因此可以从这些隐状态中读出任一种排序。在两个模型规模下，没有任何一个受测探针比仅依据轨迹长度的规则更准确地定位失败步骤；在 4B 模型中，在相同轨迹上的 10 次运行里，用于预测该步骤的探针一次也未能超越这一规则。因此，confidence probe 能够表明答案是错误的，但其对失败类型的排序取决于训练设计。