用于风险表征与鲁棒学习的脆弱性感知分类

arXiv:2502.13024v3 公告类型：替换 摘要：分类模型在医疗诊断、推荐系统和风险评估等数据驱动的决策应用中发挥着核心作用。准确率和 AUC 等传统性能指标能够量化分类错误和成对排序性能，却未考虑错误的程度，即高置信度误判的风险。这一局限在安全关键和成本敏感的场景中尤为重要，因为过度自信的错误可能导致严重后果。为解决这一问题，我们提出脆弱性指数（FI），这是一种新型性能指标，通过捕捉高置信度误判的尾部风险，从风险厌恶的视角评估分类器。我们在鲁棒满意化（RS）框架内对 FI 进行形式化定义，以量化分布不确定性下分类器的敏感性。在此基础上，我们开发了一种计算上可处理的、基于替代损失的训练框架，并建立了将训练脆弱性与排序错误 FI 联系起来的可证明界限。我们进一步针对交叉熵损失、合页型损失和 Lipschitz 损失等广泛的损失函数，推导出计算上可处理的重构形式，并确定这些重构形式具有精确性的具体条件。我们还为深度神经网络引入了由 FI 导出的正则项。在真实世界医疗诊断任务上的实证结果表明，FI 揭示了准确率或 AUC 未能反映的错误尾部风险，从而对现有指标形成补充。基于 FI 的模型在取得具有竞争力的预测性能的同时，通常能够获得更低的 FI。在模拟的人类与 AI 协同诊断流程中，这些模型的平均运行成本也低于经验风险最小化方法。