arXiv cs.LG精选76

面向分布外检测的反一致性正则化绝对缩放

Anti-coherence Regularized Absolute Scaling for Out-of-Distribution Detection

· 1小时前

精选理由

无需训练数据即可提升分布外检测可靠性,抑制错误证据并增强AI安全。

AI 摘要

arXiv:2610.32255v1 公告类型:新 摘要:分布外(OOD)检测被认为是 AI 安全中的关键问题。SCALE 是激活塑形类中一种有效的事后 OOD 检测方法,无需训练数据,而是利用基于百分位数的幅度比率对倒数第二层激活进行重新缩放。然而,当存在负激活时,该比率没有明确定义,因为底层求和中的正负贡献会相互抵消,导致 SCALE 在 ViT 等骨干网络上失效。为此,我们提出 Absolute Fix:在绝对值激活上计算比率,而不是通过 ReLU 丢弃负激活。在这一修正后的缩放方法基础上,我们提出反一致性正则化:根据一个样本对最大 logit 的贡献中与最大 logit 符号不匹配的部分所占比例,对缩放因子进行惩罚,从而抑制对预测类别不可靠的证据。尽管无需访问训练数据或训练标签,我们的方法在 OpenOOD v1.5 协议下的 CIFAR-10 和 ImageNet 上,就 AUROC 和 FPR@95 指标而言,达到或超过了依赖训练数据的激活塑形方法。

查看原文(arXiv cs.LG)