FRAME：在医学影像公平性中区分抽样波动与表征原因

子群体性能差异是医学影像中公平性偏差的标准证据，而通常的应对方式是移除模型所编码的人口统计信息。这里我们提出 Fair-model Reference And Mechanism Evaluation（FRAME），这是一种用于审计此类主张的两步框架。第一步推导出 fair-model reference，即在观测到的子群体规模下、在严格公平条件下差异的分布。第二步，我们用两个在表征空间中作用的算子检验剩余部分。其中一个算子按构造不能改变组内排序。在 702,206 张图像和 36 个编码器上，reference 解释了已报告种族差异中位数 41% 和年龄差异中位数 22%。注入可解码的人口统计信息后，剩余部分保持不变；而将组信息与疾病方向纠缠后，种族差异从 0.077 增至 0.118。我们测试的任何干预，都没有比随机种子变化更显著地改变剩余部分。这些干预会降低操作点上的差异，并使组内排序差异的中位数保持在 0.000。将 FRAME 应用于 6 种医学影像模态中 9 篇已发表研究的 89 个差异时，reference 解释了速率差异中位数的 25% 以及受试者工作特征曲线下面积差异的 70%。相比之下，图像-文本预训练会将最差组性能提高约 0.05。在选择干预之前应用 FRAME，可以区分需要机制解释的差异与在当前队列规模下与抽样波动相容的差异。