通过量化充分统计量实现精确遗忘

arXiv:2610.07197v1 发布类型：新 摘要：精确遗忘要求，已部署的预测器必须与一个在删除请求所指定的信息不存在的情况下重新构建的预测器相匹配。现有的通用精确方法通过互不相交的数据分片来定位重训练范围，但每个请求仍会使一个模型失效，而较小的分片会减少每个组成预测器可利用的数据量。我们提出量化充分统计量（Quantized Sufficient Statistics，QSS），将一个较小的冻结模式与可变的、可进行求和分解的内容分离开来。模式学习全局结构；内容则将局部预测修正存储为按量化区域索引的加性统计量。因此，删除内容可以通过精确减法完成，而无需进行优化。我们区分了两种保证：QSS-L 在保留未标注输入的同时精确删除标签，而 QSS-E 则通过不使用可删除样本来学习模式，从而精确删除输入和标签。一次删除以 $1-\rho$ 的概率走算术快速路径，并以 $\rho$ 的概率触发完整重建；报告的所有预期延迟均包含这两种情况。在 $\rho=0.5\%$ 的条件下，针对 15 个视觉、文本和表格数据集，QSS-L 在 11 项任务上与 SISA 的差距不超过 2 个百分点，并且在紧凑模式有效的低类别数任务上，将预期删除延迟降低了 4--483 倍。QSS-E 量化了移除输入的所有痕迹所带来的额外准确率代价。