SimplexUQ:用于单纯形值预测的保形不确定性评估框架与基准
SimplexUQ: An Evaluation Framework and Benchmark for Conformal Uncertainty on Simplex-Valued Predictions
精选理由
提供单纯形预测保形不确定性的系统基准,揭示覆盖失衡并支持方法选型。
AI 摘要
arXiv:2610.00523v1 公告类型:新 摘要:保形预测能够保证边际覆盖率,但单一的校准阈值仍可能使这种覆盖率分配不均:对容易区域覆盖过度,而对困难区域覆盖不足。据我们所知,SimplexUQ 是首个用于衡量单纯形值预测中这一分配问题的基准和可复现实验协议;它比较现有的保形封装方法,而不是提出一种新方法。其任务套件 SimplexTasks-12 结合了六种受控合成场景和六个冻结预测器的真实任务,涵盖类别概率、主题混合、光谱丰度、细胞类型比例、年龄分布和情绪混合。每次比较都固定预测器、评分函数和不依赖响应的分层映射,仅改变封装方法,并报告边际覆盖率、最差分层覆盖率、最大差异,以及任务内半径和计算开销。全局校准看似有效,但可能表现糟糕:在 CIFAR-10 上,边际覆盖率达到 0.900,但熵分层中的最差覆盖率仅为 0.542;Mondrian 校准将该分层的覆盖率提升至 0.886,同时将最大差异从 0.358 降至 0.022。然而,没有任何一种封装方法占据绝对优势。在平滑的合成异质性条件下,若干修正方法具有竞争力;固定映射分析表明,方法排名取决于评估分组和实验协议;在包含 12 个任务的比较中,Mondrian 在其单一目标划分上的差异对全部 12 个任务都更低,而 BatchMVP 在存在重叠的分组上有 5 个任务的差异更低。这些是经验比较,而非新的覆盖率保证。受控的预测器偏差扫描表明,消除预测器偏差只能部分降低全局阈值造成的差异。我们发布了任务卡片、结果溯源信息、允许派生的数组以及重建说明,并将封装方法的选择视为一种诊断性比较,而非通用排名。