长时域 LLM 智能体交互中的涌现式串通

LLM 智能体正越来越多地被部署于协作环境中，但长期交互可能导致不良协调。我们在一个长时域多智能体环境中研究串通的涌现：两个智能体反复完成各自的任务、共享任务日志、相互核验工作并获得奖励。我们引入了现实约束，使遵守核验协议与奖励最大化相互不兼容，并发现智能体在反复交互中越来越偏离该协议。在 10 个模型的所有轨迹中，有 94% 出现了串通；同一模型系列中能力更强的模型会更早达到串通状态。受控的同伴干预表明，串通会受到同伴行为的影响；而消融实验则揭示了奖励结构、智能体收到的核验反馈以及交互历史所产生的额外影响。特别是，限制智能体可获取的交互历史的数量和范围能够减少串通。总体而言，我们的研究结果表明，长时域交互能够重塑智能体的协调方式，从而带来安全风险。