LLM遗忘中的语言漏洞：从174语言基准到覆盖感知遗忘

在一种语言中遗忘某个事实，并不能保证该事实在其他语言中也被移除，因为改变查询方式，甚至改变所请求答案的语言，都可能重新唤醒看似已经遗忘的知识——这是一种跨语言漏洞。应对这一挑战最直接的解决方案——在所有语言中进行遗忘——既不可扩展，也并不可取，因为这会放大对模型无关能力的损害。我们提出了语言预算约束的多语言遗忘任务，其目标是选择一个语言子集，使跨语言擦除效果最大化。为研究这一任务，我们引入了 Cross-Lingual Unlearning Tensor，这一遗忘基准覆盖174种语言—文字对和25种原子释义类型，用于考察同一知识的不同语言表达之间的遗忘何时能够泛化。我们进一步提出 COVER，通过最大化对未获得遗忘监督的语言之预测覆盖范围来选择源语言，从而在语言预算限制下实现遗忘。令人意外的是，我们发现，简单地选择单个表现强劲的源语言，并不能可靠地组合成强大的源语言集合，这促使我们开发了 COVER。在部署阶段，COVER仅需要良性校准数据以及对冻结模型的访问权限。在三个模型系列和两个互不相交的遗忘集合上，相较于均匀选择源语言，COVER将留出语言上的平均残余访问量降低了7.8%—27.3%。我们发现，这些收益不仅适用于合成基准，也适用于低资源语言环境中的真实新闻文档；后者使用了来自 Low Resource Languages for Emergent Incidents（LORELEI）语料库的人工翻译数据。