为什么仅遗忘式机器遗忘需要记忆

arXiv:2610.10519v1 公告类型：新 摘要：机器遗忘旨在设计一种删除算法，使其输出结果接近于在不包含指定遗忘样本的情况下从头重新训练所得的模型。在本文中，我们研究仅遗忘式机器遗忘，即删除算法只能接收训练好的模型和需要遗忘的样本，无法获得保留数据或其他训练信息。我们探讨仅遗忘式机器遗忘是否总是可行。首先，我们证明这取决于所采用的学习方法：不同的数据集可能产生相同的训练模型，但在删除相同样本后却需要得到截然不同的输出。基于这一观察，我们推导出机器遗忘结果与重新训练结果之间可达到的匹配精度下界，并将其应用于若干种标准学习算法。随后，我们进一步探讨仅遗忘式机器遗忘成功时必须满足的条件。为此，我们推导出算法为处理任意删除请求而必须记忆的训练数据量下界。对于简单的阈值学习器，所需信息量可能达到整个数据集的规模，尽管普通训练只需保留一个边界点。总体而言，我们的结果表明，普通学习过程中丢弃的信息日后可能是执行删除所必需的，因此，为仅遗忘式机器遗忘而设计的模型可能需要保留比标准训练更多的信息。