基于 LLM 的主动推理智能体可解释性失效的触发因素与诊断

LLM 解释器正越来越多地作为运行时监督附加到自主智能体上，操作员阅读的是对智能体信念和行动的生成式说明，而非其内部状态。我们审计的是该说明本身：将一个跟踪德国电网需求并调整发电量的 Active Inference (AIF) 智能体与基于三个后端（GPT-4o、Claude-3-Opus、Gemini）的 LLM 解释器配对，并使用三种黑盒触发因素探测这一组合。每步将观测流篡改 600 MW，会使智能体的后验偏移 490 MW，约为电网容量的 0.9%。在注入期间生成的 30 条解释中，没有任何一条在既定评估准则下标记出异常，而且每条都流畅地叙述了被篡改后的信念。在智能体采取客观错误行动的时间步上，三个解释器都会在 80–95% 的情况下产生迎合式合理化解释（每个后端 n = 20）。观测元数据字段中的攻击者可控文本会引导解释器，不同提供商的易受影响程度不同，且三个后端上的数据外泄均成功。我们为每种失效提出了缓解措施，但未对其进行评估。在我们观察到的每一种失效中，解释都是流畅但错误的。此外，解释器架构中没有任何机制会在操作员依据解释采取行动之前检查该解释是否为真。因此，对解释器的测试应纳入任何智能体部署审计之中。