存在但难以读取：用最小对比探测潜在推理

arXiv:2610.28498v1 公告类型：新 摘要：潜在推理的探测研究通常会在答案开始生成的位置读取模型状态，并将探测失败视为某个值不存在的证据。我们在循环模型 Ouro-1.4B 和标准 Transformer Qwen2.5-1.5B 中，使用一个从问题中复制的数字对此进行检验。比较仅在该数字上有所不同的提示后发现，在最后一个提示词元处，这个数字确实存在，并且以跨问题共享的编码形式存在（读出值约为 0.9）。一个一次只读取一个提示的探测器——这也是通常的设置——几乎无法读出该数字：即使在 5,249 个训练问题之后，Ouro 中的读出值也只有 0.36，Qwen 中则为 0.19。该数字引起的变化很小，而不是与其他信息拥挤在一起：随机噪声会落在同样繁杂的方向上，而将其替换为一个随机单词会使状态移动得远得多，并且更容易读出。由于每个发生变化的词元都会留下痕迹，探测成功本身也存在歧义。我们提出了一套协议，其中包括一个用于检验一般混合效应的合成零假设，用来将计算得到的值与输入的复制和混合区分开来。在针对两步问题的预注册研究中，该协议在 Ouro 写出答案的最后一位之前，发现了一个未被写出的中间值 a+b 的微弱信号，其符号遵循运算过程，尽管仅靠混合也能产生其中相当一部分的符号对应关系。从第一个循环开始，将该值固定为另一个问题中的对应值，并不会使写出的数字朝另一个问题的结果移动；而对答案进行同样的干预却可以。这说明该值虽然可读出，却没有被使用。