通过多智能体可解释性检测多智能体串通

arXiv:2604.01151v3 公告类型：替换-交叉 摘要：随着 LLM 智能体越来越多地部署于多智能体系统中，它们带来了可能规避标准人类监督形式的隐蔽协同行为风险。尽管针对模型激活的线性探针已显示出在单智能体场景中检测欺骗行为的潜力，但串通本质上是多智能体现象，而利用内部表征检测智能体之间的串通仍未得到探索。我们提出了 NARCBench，这是一个用于评估环境分布偏移下串通检测能力的基准，并提出了五种探测技术：将每个智能体的欺骗分数进行聚合，以在群体层面判别场景。我们在四个开放权重模型（Qwen3-32B、Llama-3.1-70B、DeepSeek-R1 32B、GPT-OSS-20B）和六种探针架构上进行了评估。我们将这一问题定义为分布式异常检测问题，识别出三种串通特征，它们分别对应不同的异常类型和检测范式。在分布内测试中，每个模型都达到了 1.00 的 AUROC；在表现最强的模型 Llama-3.1-70B 上，五种探测技术迁移到结构不同的多智能体场景进行零样本测试时，AUROC 达到 0.73 至 0.93；在隐写式二十一点算牌任务上则达到 0.99 至 1.00，且检测性能随模型能力提升而增强。我们发现，没有任何一种探测技术能够在所有串通类型上占据优势，这与该框架的预测一致：不同的异常类型需要不同的检测范式。这项工作朝着多智能体可解释性迈出了一步：将白盒检查从单个模型扩展到多智能体环境，因为在此类环境中，检测需要聚合多个智能体之间的信号。这些结果表明，模型内部信息能够为文本层面的监控提供互补信号，用于检测多智能体串通。代码和数据见 https://github.com/aaronrose227/narcbench。