不是替代,而是互补:用于近分布外检测的检测器无关子空间信号
Don't Replace, Complement: A Detector-Agnostic Subspace Signal for Near-OOD Detection
精选理由
提出可与现有检测器互补的近分布外信号,在多种模型与检测器组合中提升近OOD识别且基本保持远OOD表现。
AI 摘要
arXiv:2611.06688v1 公告类型:新论文 摘要:事后分布外(OOD)检测在远分布外场景中已较为成熟,但在近分布外场景中仍表现欠佳。这两种场景在类别特征方向的激活方式上有所不同:远分布外输入基本无法激活其预测类别的特征方向,而近分布外输入则会像分布内样本一样激活这些方向。由于用于区分远分布外样本的轴几乎无法将近分布外样本与分布内(ID)样本区分开来,针对一种场景优化的评分并不适用于另一种场景;当检测器的远分布外检测性能已趋于饱和时,提高近分布外检测灵敏度往往需要以牺牲部分远分布外检测性能为代价。这种差异促使我们设计一种有针对性的近分布外信号,以补充现有评分。我们提出 PLUS(Per-class Low-dimensional sUbspace Signal)。对于每个类别,PLUS 从稀疏自编码器中选取对该类别最活跃的 $m$ 个神经元,将对应的解码器方向正交归一化,构成一个低维子空间,并根据输入在其预测类别子空间内、经逐类白化后的马氏距离平方 $z$ 对其评分。信号 $z$ 被设计为专门的补充信号,而非独立检测器,它以单一固定权重与任意经过校准的基础评分进行加性融合。该权重是一个全局常数:不针对骨干网络、OOD 数据集或部署场景调整取值,且所有校准统计量均仅从 ID 验证数据中估计。将 $z$ 应用于涵盖多种方法类别的 18 种现有检测器时,它在全部 126 种检测器—骨干网络组合中均能一致提升近分布外 AUROC。远分布外检测性能总体保持不变或有所提升,仅在基础评分接近最优时出现轻微下降,因此 $z$ 是一种跨骨干网络稳健且与检测器无关的补充信号。