考虑输入明确程度的预测不确定性分解

经典的预测不确定性分解方法（如基于信息论的分解）是针对输入对象的固定表示 $x$ 定义的。它们既不考虑 $x$ 可能不完整，也不衡量缺失信息会在多大程度上影响预测。在大语言模型中，用户无需进行任何重新训练，即可澄清表述不充分的输入。澄清后的输入能够更准确地描述用户未被观测到的意图 $z^*$，并改变对结果的预测不确定性。本文以概率形式对这一情境进行形式化描述，并推导出预测风险的三项分解，分别为表述不确定性、残余偶然不确定性和认知不确定性。我们表明，在仅有 $x$ 可用的原始信息水平下，以贝叶斯风险表示的偶然不确定性包含两个分量。第一个分量是揭示意图后该贝叶斯风险的预期降低量，我们将其称为表述不确定性。第二个分量是残余偶然不确定性，即意图已知后仍然存在的贝叶斯风险，并在给定 $x$ 时对意图的可能取值 $z$ 求平均。这一区分十分重要，因为表述不确定性能够为是否在预测前请求澄清提供决策依据。我们构建了这些分量的近似估计，并将其与现有的不确定性度量联系起来。我们在不同领域和模态上的实验表明，这三个分量各自发挥着不同的作用。表述不确定性对于检测表述不充分的输入最具指示作用，而残余偶然不确定性对于检测分布内预测错误最具指示作用。