拓扑条件后门：当语言模型推断自己处于多智能体系统中时插入漏洞

语言模型在单智能体评测中可能表现安全，但当其上下文暗示自己属于多智能体系统时，却生成存在漏洞的代码。我们通过微调 Qwen2.5-7B-Instruct，研究了这种故障模式，使其根据从提示词层面的来源线索中推断出的部署拓扑来调整代码生成。在留出的编码任务中，针对特定任务的检查器在 96%–100% 的多智能体实验回合中检测到漏洞，而在单智能体实验回合中检测到的比例为 0%。一个独立的 bandit 分析器在约 67% 的多智能体实验回合中检测到漏洞，涵盖九类漏洞中的六类，严重程度达到中等或高。词汇安慰剂对照和人工审查对照表明，相关条件变量是拓扑，而不是多智能体术语或缺乏监督。一个基于多样化拓扑信号训练的模型，还能泛化到训练中未出现的五类信号；这一结果在两个 Qwen 检查点和两个训练随机种子下均得到复现。在盲审中，对“存在隐藏策略”这一判断进行二元分类，难以区分目标模型与干净对照；然而，审查员在 10 次目标模型运行中的 9 次识别出了拓扑触发条件，在对照运行中则一次也未识别出。这些结果表明，有必要在匹配的单智能体和多智能体上下文之间开展差异化审计。它们展示了一种由所描述拓扑条件触发、且可通过训练获得的后门；但其在实际运行的多智能体环境中的激活情况尚未经过测试。