是时候造假了：持续机器学习加剧深度伪造检测中的不公平性

arXiv:2610.21974v1 发布类型：新 摘要：深度伪造检测器能够防范错误信息，因此其失效既是技术问题，也是社会问题。随着生成器不断演进，在静态数据集上训练的检测器会漏掉新出现的威胁，而渐进式训练则会产生灾难性干扰。然而，以准确率为衡量标准来缓解遗忘问题——这是持续学习（CL）普遍关注的重点——不足以反映现实世界的影响。因此，我们从不断演变的公平性角度，仔细审视 CL 方法的作用。为此，我们针对在按时间顺序排列的 11 种现实世界深度伪造生成方法上渐进训练的检测器，分析其在不同人口统计群体中的四个公平性维度。通过追踪公平性指标随时间的变化，我们揭示了性能与公平性之间非平凡的相互作用，而这种作用同时取决于 CL 算法的选择和人口统计特征的交叉组合。我们发现，准确率下降通常会加剧不公平性；反过来，公平性的改善在一段时间后仍十分少见。通过剖析 CL 方法的不同类别（重放、提示、正则化），我们观察到，不平等遗忘并不能仅由代表性不足解释，而很可能与表征学习交织在一起。因此，我们呼吁 CL 方法在权衡稳定性与可塑性时，将社会影响纳入考量。