并非所有变化都是损害：面向大语言模型的更新匹配遗忘

arXiv:2610.21230v1 公告类型：新 摘要：遗忘旨在从大语言模型中移除指定知识，以降低隐私和安全风险，同时保留有用能力。对于发布后仍会继续进行微调的模型而言，这一目标还不够：模型还必须抵抗已删除知识的重新学习，同时保留可塑性，即学习新任务的能力。现有防御方法在尝试保留有用能力的同时，针对模拟的重新学习进行训练，但仅凭较低的重新学习程度，无法区分选择性抵抗与整体可塑性损失。在一次更新后评估能力保留情况，需要确定更新后的模型应当与什么保持接近。更新前的参考模型会仅仅因为更新导致的有用变化偏离了早期输出，就对这些变化进行惩罚。因此，我们提出参考时机假设：在目标抑制程度相当的情况下，与更新匹配的参考模型相比更新前的参考模型能更好地保留可塑性。为检验并解决这一假设，我们提出更新匹配遗忘（Update-Matched Unlearning，UMU）：对受防御模型和一个从同一遗忘模型初始化的未防御参考模型施加相同的模拟重新学习更新，并利用新任务学习来指导模型选择。在 TOFU 和 FaithUn 上使用 Llama 与 Qwen 模型进行的大量实验表明，UMU 在三种基础遗忘方法中均同时提升了重新学习抵抗能力和可塑性：平均分别将有害和无害重新学习降低了 30.4 和 9.9 个百分点，并将新任务准确率提高了 3.5 个百分点。当参考模型不接受该更新时，重新学习程度仍同样较低，但新任务准确率会低于基础方法，这支持了参考时机假设，并表明稳健的遗忘应当选择性地阻止知识恢复，而不是压制学习本身。