一种基于后验风险的不确定性解耦真值框架

arXiv:2608.05995v3 公告类型：替换 摘要：可靠的不确定性估计对于安全敏感型应用至关重要。要使这类估计在实践中发挥作用，理解模型不确定性的来源至关重要，这促使人们将总不确定性解耦为认知不确定性和偶然不确定性。现有的不确定性概念所涵盖的来源各不相同，因此对偶然不确定性和认知不确定性的定义也不一致，目前尚无普遍接受的定义。我们通过样本条件下的逐点后验风险来定义不确定性，即在给定观测样本所对应的可能真实函数分布下，预测器的期望损失。这一定义统一了基于概率和基于风险的不确定性概念。为评估当前最先进的不确定性解耦方法，我们构建了一个框架，将这些方法的估计结果与主要由后验风险定义的真值不确定性直接进行比较，同时也与常用的其他不确定性定义进行比较。我们发现，Spectral-normalized Neural Gaussian Processes 和 Variational Latent Gaussian Processes 最接近地恢复了真值不确定性，而大多数方法更接近于跟踪后验方差，而非后验风险，因而忽略了预测器的偏差。除了比较方法排名外，我们还研究了估计得到的偶然不确定性和认知不确定性之间的耦合程度，以及不确定性质量对建模选择的敏感性，从而为不确定性解耦提供实用指导。为支持后续的方法开发与验证，我们发布了13个具有已知后验的半合成 UCI/OpenML 数据集，使真值不确定性的计算成为可能。代码和数据将在论文接收后公开。