后处理公平性约束何时有帮助、何时有害：来自八项跨领域评估的证据

arXiv:2609.26955v3 公告类型：替换 摘要：生产环境中的 ML 公平性审计通常只进行一次，即在部署时针对单一领域开展。实践表明，这两点都存在问题：重新训练或用户群体变化后，公平性可能发生偏移；而在单个数据集上验证过的干预措施，很少在组织实际部署所涉及的异质领域中接受测试。我们提出 FAPE（生产环境公平性审计），这是一个四阶段框架，用于在八项领域评估中评估单一的后处理干预措施 Fairlearn 的 ThresholdOptimizer。这八个领域包括刑事司法、收入预测、法律录取、信贷放贷、农业贷款、多领域基准语料库、医疗保健和教育。每项评估均依据人口统计学均等和均等机会差异进行评分，并在可计算时加入差别影响比和准确率成本。干预效果与基线差异的幅度相关：在模型—领域配对中，该约束在14个高差异案例中的9个改善了差异，却在4个接近公平的案例中的3个使差异恶化。5个高差异例外中的每一个，都会在两项测量检查中的任一项下逆转：最小群体规模检查，或使用留出数据拟合阈值。部署时启动的 CUSUM 监测器在模拟偏移测试中，能够区分从未达到0.1平等标准的受约束模型，与曾达到该标准但后来退化的模型。因此，单次部署时审计并不能可靠地提供指导，这说明有必要进行基线差异筛查和持续监测。