我们正在恢复机制吗？机制可解释性中的目标层面恢复差距

arXiv:2610.02098v1 公告类型：新 摘要：机制可解释性旨在恢复对模型行为负责的内部计算。自动化电路发现的进展通常被视为一个搜索问题：更好的归因或优化应当能够识别出更好的机制。这一观点假设，一旦找到更好的电路，评估目标就能够识别它。我们表明，由干预定义的忠实度反而可能偏好一个大小相同、但对模型行为复现得更差的电路，从而造成目标层面的恢复差距。在四项人工参考任务和 InterpBench 上，我们在固定的普通重采样条件下，将验证集忠实度与留出提示上的行为进行比较。行为标准是与完整模型保持一致，包括其错误；但在 Greater-Than 上，我们使用语义准确率。受控的参考修改揭示了排序错误，而无需使用任何发现算法；EAP、EAP-IG、ACDC 和 Edge-SP 的输出也表现出同样的失败。在重采样条件下，对于这些方法在人工参考任务中产生的候选对，KL 会错误排序其中的 9.4%–41.2%。我们考察了上下文失真这一解释：替换被排除的信号会改变保留组件运行所基于的输入。通过从接收方的完整模型执行中恢复选定信号，我们修复了发现池中 100 个持续存在的 KL 排序错误中的 96 个，并且在验证提示和留出提示上均如此。电路及其原始行为得分均未改变。这些发现说明，当目标奖励了错误的候选时，仅仅改进发现过程是不够的。