基于代理的机器遗忘的行为保证
Behavioral Guarantees for Proxy-Based Unlearning
精选理由
为代理式机器遗忘提供理论误差界与自适应更新方法,并通过实验验证其效果接近从头重训。
AI 摘要
arXiv:2605.10680v2 公告类型:替换 摘要:本文提出了一个框架,推广了近期基于代理的机器遗忘方法,并对所得遗忘模型的行为给出了理论保证:其相对于保留数据的理想后验分布的 Kullback-Leibler 散度上界。我们将近似遗忘建模为一个约束优化问题,并将一类解解释为在输出空间中引入经过缩放的遗忘信号。该遗忘信号源于数据后验分布的代理。其缩放系数根据代理进行调整,以确保满足行为上界。该框架依赖数据分布的结构来构造代理。必要时,目标模型可充当教师,将更新蒸馏到权重中。我们在两种遗忘场景下进行了实验验证,结果表明,我们的方法得到的分类器最接近从头重新训练的模型。