利用软标签对贝叶斯最优公平性与准确性权衡进行实用估计

arXiv:2611.06027v1 公告类型：新提交 摘要：对于给定的数据分布，任何模型所能达到的最佳预测误差都存在一个根本极限。在分类任务中，贝叶斯误差量化了这一极限，既可作为已训练模型的基准，也可作为检测过拟合的准则。目前最先进的二分类贝叶斯误差估计技术仅使用软标签（正类概率），无需输入特征或辅助训练。我们将这些概念扩展到具有公平性等约束的分类问题。公平分类是约束分类或多目标分类的一个重要情形。它不仅要求模型准确，还要求模型在不同人口群体（例如按种族和性别划分的群体）之间产生公平的结果，即相等或近乎相等的真正率。这带来了内在的公平性与准确性权衡，或称帕累托前沿，可用于比较不同的公平分类器。我们的工作重点是估计这种公平性与准确性权衡的根本极限。我们推导了公平贝叶斯误差率（即在给定公平性约束下可达到的最佳误差率）的显式表达式，并仅利用软标签和群体信息，构建了无需样本实例的一致估计量。我们从理论上证明了这些估计量的偏差界和样本复杂度界。实证结果表明，即使软标签含有噪声，且来自基于硬标签训练的分类模型，我们的方法仍能对最优公平性与准确性权衡曲线给出稳健、低方差的估计。