外部观察者或许看得更清楚：通过隐状态探测实现大型语言模型中的跨模型片段级幻觉检测

随着大型语言模型（LLM）日益充当基础推理引擎，其产生幻觉的倾向仍然是一个关键漏洞。尽管近期的内部状态探针为缓慢的外部检索系统提供了一种很有前景的替代方案，但这些方法大多将幻觉检测简化为逐词元二元分类任务，未能捕捉语义漂移所具有的结构化、序列性边界。为此，我们提出了一个用于细粒度片段级幻觉检测的内部隐状态框架。通过检查逐层激活模式，我们尝试检测 LLM 生成过程中幻觉确切的起始位置及其延续词元。实验表明，尽管类别分布极度不平衡，该方法仍能有效定位幻觉起始位置，与随机基线相比，在精确率-召回率 AUC 方面取得了显著提升。最终，我们提出了一种新颖的跨模型检测框架，其中一个模型观察另一个模型生成所激发的内部表征。我们发现，外部观察者对生成模型幻觉起始位置的检测能力可以达到甚至超过生成模型的自我检测能力，即使观察者是规模更小的模型也是如此。这表明，自我检测并不是幻觉起始位置定位能力的上限。