FIRM：面向联邦 LLM 遗忘的 Fisher 感知保留合并

arXiv:2610.21720v1 公布类型：新 摘要：联邦 LLM 遗忘旨在实现针对性知识移除，同时遗忘数据和保留数据仍分布在私有客户端上，且服务器无法访问这些数据。由此产生的本地训练适配器编码了相互冲突的目标，使得其聚合方式从根本上不同于传统的联邦优化。一个关键失效模式是幅度爆炸：未经归一化的跨客户端聚合会增大合并更新的幅度，并在更强的遗忘过程中降低保留效用。我们提出 FIRM（Fisher 感知保留合并），这是一种用于稳定且关注保留能力的服务器端聚合的单轮框架。FIRM 使用客户端本地的 Fisher 统计量作为统一的敏感性信号，构建 Fisher 归一化的基础合并，并对保留敏感参数施加显式控制。其二阶保留投影可得到唯一的最小距离解，而相应的对偶变量规模随保留客户端数量增长，而非随模型维度增长。在使用 Zephyr-7B 和 Llama-3-8B、基于 WMDP、TOFU 和 MUSE-HP 开展的实验中，在 WMDP 和 MUSE-HP 上，相近遗忘程度下实现了效用提升；在 TOFU 上则呈现出取决于指标的权衡。受控对比实验表明，在选定的工作点上，结合基础合并与额外的保留校正能够带来益处。