在伪相关和标签噪声下实现鲁棒学习的最优传输重加权

arXiv:2610.01028v1 公告类型：新 摘要：机器学习模型在子群体偏移下往往会出现性能下降，尤其是当伪相关导致模型依赖无法跨子群体泛化的捷径特征时。近期一类研究通过使用基于损失的信号来识别信息量较大的样本，从而缓解这一问题；但在存在标签噪声时，这些信号可能会严重失真：错误标注的样本同样可能产生较大的损失，并污染后续的重加权或再训练过程。尽管这一交叉问题具有重要的实际意义，但相关研究仍十分有限。我们提出 POTER，这是一种基于最优传输的重加权框架，通过刻画训练分布与利用有限验证集群体标注构建的参考分布之间的传输几何关系，来确定样本的重要性。POTER 在单个样本层面衡量对齐程度，而不是依赖损失，因此会降低错误标注样本或与偏差高度一致的样本的权重，同时提高与参考分布更加一致的样本的重要性。此外，POTER 仅需一个 ERM 训练阶段，突破了近期研究中常见的再训练范式。在标准基准和噪声标签设置下，POTER 在最差群体准确率方面达到了最先进水平，包括标签污染集中于少数群体的情况。