arXiv cs.LG精选71

SmoothOperator:通过调制标签平滑增强细粒度开放集识别的表征

SmoothOperator: Enhancing Representations for Fine-grained Open-set Recognition via Modulated Label Smoothing

· 11天前

精选理由

提出按样本显著性自适应平滑标签,提升开放集识别性能,最高增益4.7%。

AI 摘要

arXiv:2610.00851v1 公告类型:cross 摘要:开放集识别(OSR)旨在使模型能够准确分类已知类别,同时拒绝来自未见类别的样本。OSR 的一个关键挑战在于,训练期间无法对未知类别的无界分布进行建模,这通常会导致这些类别的样本被误分类。近期研究不再对未知类别进行建模,而是塑造特征空间,使已知类别更加紧凑且彼此分离;球面表征学习方法通过这种方式取得了优异成果。标签平滑被认为是这一成功的关键驱动因素之一,但它会对每个训练样本使用相同的系数,而不考虑每个样本当前的嵌入效果。我们发现,OSR 中使用的球面表征学习目标共享一种统一的对齐--均匀性结构,其中标签仅通过对齐项发挥作用。因此,标签平滑相当于一个对齐调节器,而固定系数会将该调节器对每个样本设定为相同值。我们提出了一种可插拔模块 SmoothOperator(SmoothOP),根据每个样本的\textbf{显著性}设置其平滑系数;显著性是一种嵌入空间信号,用于衡量样本所属类别相较于其最强竞争类别的突出程度。我们的方法能够以极低的训练开销集成到四种现有的球面表征学习方法中。SmoothOP 会为显著性高的样本分配更强的平滑,从而降低其对齐程度并放松对它们的拉近作用。在 Semantic Shift Benchmark 上,加入 SmoothOP 的变体通常在不同数据集、不同语义偏移程度以及不同 OSR 后处理器下均优于其基础目标,在 AUROC、OSCR 和闭集准确率方面的提升最高可达 4.7%。

查看原文(arXiv cs.LG)