从 Token 到语义：利用互补信号进行黑盒 LLMs 中的幻觉检测

当 LLMs 支持面向公众或高风险的工作流时，漏检的虚构内容会伤害用户和机构，而误报会消耗有限的人工审核能力。在没有可信上下文或参考文档可用时，我们研究了两种可通过黑盒模型 API 获取的信号：语义熵，它衡量采样响应含义之间的分歧；以及由 token 对数概率导出的不确定性。它们的失效模式可能是互补的：当响应形成单一语义簇时，语义熵就变得没有信息量；而 token 不确定性可能漏掉那些始终自信但错误的输出。我们通过 TopK 方法，将 token 级信号在采样响应之间进行聚合，从而扩展基于 token 的不确定性检测；评估了混合方法 CoCoA，它结合了目标响应不确定性与语义差异；并提出并研究了两种监督方法：Gated，它将单簇情况路由到一个聚合 token 特征分类器；以及 Stacked，它联合学习语义不确定性和更广泛的 token 特征。我们使用四个语言模型评估了七个基准，包括五个公开基准（四个文本数据集和多模态手写支票提取）以及两个构建的基准（Financial Summaries 和 Long-Text QA）。在跨模型和数据集的评估中，Stacked 在将近一半的情况下表现最佳，而 TopK 和 CoCoA 在没有监督训练标签的情况下仍具有竞争力，不过它们的阈值需要仔细校准。没有任何一种方法在所有情况下都最强。因此，我们在 1% 到 15% 的假阳性率预算下评估性能，分析它们对生成和校准选择的敏感性，并考察其在数据集特征上的变化。