LLM 拒答中的破缺对称性：答案释放比拒答恢复更局部

当语言模型拒绝回答一个提示时，尚不清楚正确答案是已从其内部表征中被抹除，还是仅仅在输出层被抑制。我们使用一种受控的保留设置来研究这一机制，该设置为双向激活修补提供了完全匹配的回答轨迹和拒答轨迹。我们在匹配的因果干预下发现了干预局部性中的一种因果不对称性，并将其称为破缺对称性。即使模型生成了干净的拒答，正确答案仍然可以从其隐藏状态中线性恢复。此外，释放这个被保留的答案是一种高度局部的操作，只需要单个位置的修补。相反，反向操作并不具有同等的局部性：重新施加抑制需要在多个位置进行更广泛的干预，而组装出连贯的拒答序列则更加困难。我们进一步证明，尽管一个平均的从回答到拒答的位移向量标示了这些状态之间的几何差异，但它无法充当可靠、可逆的线性控制开关来在行为之间切换。综上所述，我们的发现表明，拒答并不是一个简单的对称开关。对于安全性和审计而言，这意味着探针可恢复性可能会高估真实的行为控制能力，而定位与拒答相关的方向并不能可靠地赋予将模型从回答引导到连贯拒答的能力。