BiasFlow:用于监测虚假特征依赖的几何监控与骨干网络正则化
BiasFlow: Geometric Monitoring and Backbone Regularization for Spurious Feature Reliance
精选理由
提供监测与正则化工具,识别并缓解模型对伪特征的依赖,提升偏置场景鲁棒性。
AI 摘要
最差组准确率(WGA)可以评估训练好的预测器,但无法刻画在学习新预测头时其冻结骨干网络的行为。我们提出 BiasFlow,这是一套基于 hook 的工具包,用于监测类别-属性质心对齐(IBMI)、类内质心分离(W-IBMI)以及特征投影敏感性。IBMI 会受到类别与属性相关性的混淆,因此并不能衡量对因果特征的依赖。我们将这些诊断指标与 BiasFlow 正则化(BFR)结合起来;BFR 是一种有监督、可组合的类条件质心对齐惩罚项。W-IBMI 可以验证 BFR 所优化的量,但它依赖尺度,不能独立证明属性已被移除。在所报告的小规模基准测试中,加入 BFR 后,平均 WGA 得到提升或保持不变;在 UrbanCars 上最高提升 26.0 个百分点。主要的独立压力测试冻结 CelebA-Std 骨干网络,并在有偏数据上训练新的预测头:BFR+GroupDRO 将 WGA 从 40.7% 提升至 64.1%,同时 Male 探针准确率从 92.5% 降至 72.2%。属性信息仍然可以被恢复,且跨任务结果喜忧参半。在一个受控的合成水印 ImageNet 实验中,在训练条件匹配的情况下,水印偏移准确率进一步提升了 23.0 个百分点。这些结果表明,在所测试的协议下,除了 WGA 之外,还应评估质心几何结构以及对有偏预测头再训练的抵抗能力。