GRACE：用于LLM Unlearning的梯度引导核心集选择

面向Large Language Models的Machine Unlearning方法通常假设预先指定了forget set和retain set。然而在实际场景中，请求可能只提供少量不良行为示例，因此需要从异构语料中推断forget set和retain set。我们研究这一数据选择问题，并提出GRACE，这是一种梯度引导的coreset选择方法，用于为LLM unlearning构建forget set和retain set。GRACE首先从能够触发不良行为的种子示例中计算出forget方向，然后使用非负正交匹配追踪选择一个紧凑的forget coreset，使其梯度近似这一方向。为保持模型效用，它在投影去除forget方向后，在剩余梯度空间中应用聚类正交匹配追踪来选择retain示例。在两个目标领域、两类模型系列和四种unlearning算法上，GRACE在保持可比遗忘效果的同时提升了模型效用，并且相较于先前基于梯度的选择方法表现出尤为稳定的提升。