经认证的机制编辑：技能移除与保留的行为保证

arXiv:2610.03502v1 公告类型：新 摘要：机制编辑（消融、权重编辑、激活引导）是从神经网络中遗忘有害能力同时保留有用能力的标准工具。当前方法仅通过测试来验证其效果，而测试永远无法覆盖整个连续输入区域。可解释性与验证交叉领域的既有工作，会对模型的描述进行认证：电路计算什么，或该描述是否忠实地解释了整体模型。相比之下，我们认证的是编辑的行为效果：对于区域内的每个输入，禁用某个电路会移除一种技能，并以可证明的方式保留另一种技能；这是一种信息流安全意义上的特征非干扰保证。我们展示了从玩具 ReLU 网络到标准 softmax + LayerNorm transformer 的此类经认证编辑，在连续嵌入空间区域上证明技能的移除与保留；通过改用可靠的界传播，将可处理的输入扰动维度提升到精确求解器所能处理规模的大约 9 倍。此外，我们证明不存在能够认证移除效果的有限确定性黑盒测试：我们构造了一种编辑，它能够通过穷举测试，却被证明会在一个可任意缩小的幸存区域中失效。这些保证适用于小型的标准架构网络，并且与任何移除声明一样，预设目标技能具有可判定的规范；而现实世界中的危害未必具备这一性质。