基于容忍度的公平性审计：违规认证与敏感性筛查
Tolerance-Based Fairness Auditing: Violation Certification and Sensitivity Screening
精选理由
提出兼顾误报控制与漏检敏感性的公平审计方法，帮助按具体容忍阈值识别群体差异并开展预警。
AI 摘要
arXiv:2610.01005v1 公告类型：交叉收录 摘要：随着人工智能的日益普及，算法不公平问题引发了越来越多的关注，也加大了对透明公平性审计的需求。在实践中，算法不公平的可容忍程度取决于具体的法律、伦理或应用情境。给定预先设定的容忍阈值，一个重要的统计问题是：针对不同的审计目标，如何判断群体差异是否超过允许的容忍限度。为解决这一问题，我们针对两个互补的审计目标，提出了统一的基于容忍度的公平性审计框架：违规认证，优先控制错误的违规判定；敏感性筛查，优先减少漏检的违规。对于第一个目标，我们面向正式审计场景，提出了一种采用最不利点校准的约束经验似然检验，并可结合误标率控制，对多个子群体进行同时审计。对于第二个目标，我们面向预警场景，利用自适应边界代理原则，提出了分割经验似然检验和调整后的分割经验似然检验。数值实验展示了这些方法在错误控制与敏感性之间的不同权衡。对 COMPAS 的分析展示了该框架在预测公平性审计中的应用。