选择安全的保形提前退出:自适应深度下的分布无关覆盖率
Selection-Safe Conformal Early Exit: Distribution-Free Coverage under Adaptive Depth
精选理由
提供无需多重校正的自适应提前退出置信集,兼顾覆盖率、效率与部署灵活性。
AI 摘要
arXiv:2610.20773v1 公告类型:new 摘要:在每个提前退出点校准保形预测集,并不能在选择数据依赖的退出点后保持覆盖率。我们利用前缀最大值构造单一终端路径分数,校准一个单一的 split-conformal 分位数,并返回嵌套的前缀集合,使这些集合都包含有效的终端集合。该保证具有选择安全性,无需进行 alpha/L 修正,并且对于所有在校准后制定的、无标签且保持终端集合包含关系的停止策略同时成立。我们还通过 early-over-terminal 分数超额的经验尾部,对路径最大值带来的效率代价进行了界定。在八个编码器任务-骨干组合中,路径级选择的宏平均覆盖率达到 0.901,而朴素的逐层选择为 0.814;平均集合大小为 1.41,延迟比例为 0.71。在配备 24 个退出点的 CIFAR-100 和 ViT-L/16 上(n_cal=500),预算 b=4 下的首次满足条件停止策略达到 0.902 的覆盖率、2.76 的集合大小和 0.57 的延迟比例;同一校准结果还支持在部署时更改预算,而无需重新拟合。在 n=100 时联合考察退出点数量与校准集大小的实验中,随着退出点从 4 个增加到 24 个,路径级集合大小仅从 3.02 增至 3.11;而当退出点达到 12 个或更多时,Bonferroni 方法退化为完整标签空间。在 (n,L)=(100,24) 下与 MinSE 有效选择进行配对比较,集合大小差异为 0.80 [0.47, 1.13]。全词表解码器实验仍然构成一个负面边界,生成的集合包含 7,162–9,620 个 token。当候选退出点相对于校准集大小较多、校准后预算会发生变化,以及浅层头能够返回可直接采取行动的集合时,路径级校准最为有用。