相同答案，不同未来：预测一致并不意味着语言模型的信念更新一致

arXiv:2611.07913v1 公告类型：新提交 摘要：语言模型在观察结果、阅读摘要、接收指令或接受激活干预后，可能产生相似的概率预测。这些途径是否会诱导出等价的信念状态，仍不明确：当前预测一致，并不能确定模型将如何响应后续证据。我们在一项具有解析贝叶斯参照的伯努利推断任务中研究这一区别。针对三个开放权重语言模型，我们通过四种文本途径和两种激活层面的干预来构建状态，同时测量对下一次结果的续写和显式概率估计，并在每种构建好的状态之后追加相同的新证据。我们通过初始信念的有效证据权重，即其相当于多少次新观测，来量化其持续性。我们发现，证据的呈现形式决定了哪些读出能够表达其内容：结果序列主要影响续写，而摘要和明确给出的发生率主要影响显式估计。此外，不同途径的有效权重存在显著差异：摘要获得的权重随其所述观测次数的增加仅缓慢增长，而用于引出回答的问题可使推断出的权重发生数个数量级的变化。在一次性引导设置中，一项能够复现自然观测记录即时预测的干预，在后续证据出现后会丧失大部分效果。这些结果表明，当前读出一致不足以确立信念更新的等价性：信念的获取方式及其读出方式共同决定了其后续动态。