从数学证书到机器遗忘的可执行证书
From Mathematical to Executable Certificates for Machine Unlearning
精选理由
将机器反学习的数学保证落实为可验证的实际发布产物,提升删除结果可信度与效率。
AI 摘要
arXiv:2610.02268v1 公告类型:new 摘要:当因删除请求、记录过时或数据质量问题而必须移除数据时,就需要机器遗忘,而从头开始重新训练的成本可能很高。有认证的机器遗忘方法能够提供数学保证,但实际部署的系统发布的是由软件生成的具体有限精度产物。为弥合数学保证与实际部署之间的差距,我们引入可执行发布认证(Executable Release Certification,ExecCert),这是一种在发布时运行的层,用于对拟发布的候选产物进行认证。ExecCert 要么为已执行的候选产物补全方法原生的证书,要么应用 Retraining-Reference Release Verification(RRV),以认证其对当前保留集重训练结果的忠实性。顺序删除使后者变得并非易事,因为精确的保留集参考对象与存储的数值状态会分别演化。针对具有可变岭回归头的冻结表示,我们开发了 RRV 的增量实现,使其能够在多次删除请求之间持续维护已认证证据,而不是在每次发布时重新构建这些证据。在四种已发表的机器遗忘实现上,ExecCert 保持了有效证书,改变了发布决策,收紧了保守界限,并识别出具体输出所支持的对重训练参考结果的忠实程度。在顺序服务实验中,RRV 消除了由基于存储方程的验证所导致的错误发布,同时紧密跟踪实际误差;当发布检查足够频繁时,增量认证的成本仍低于全新构建和持续维护的经验证因子两种方案。