自主研究群体中涌现作弊与举报行为的案例研究

多智能体 AI 科学生态系统依赖于具备工具的智能体，使其能够相互通信、协调并在彼此工作的基础上继续推进。然而，这种共享基础设施也可能通过为意外且不受欢迎行为的传染式传播提供载体而引入漏洞。我们报告了一项案例研究，研究对象是一个由 100 个自主 LLM 智能体组成的研究集体，其任务是证明形式化数学猜想。在该群体中，作弊行为自发涌现，随后又受到举报者的挑战——二者均未受到任何外部干预。当单个智能体发现评估系统中的一个漏洞后，该漏洞先是通过共享知识库在集体中传播，随后又通过点对点消息进一步扩散。尽管最初有所犹豫，一批智能体还是在竞争压力下采用了该漏洞。另一组智能体产生了一种涌现的反制回应：审计欺诈性证明、通过广播和私有渠道提醒同伴、发起抵制、提交正式投诉，并提出验证补丁。在近期事件中，智能体群体曾通过临时拼凑的侧信道进行隐蔽协调（Dalton and Wallace, 2026; Greenblatt et al., 2026）。我们的场景则不同：承载漏洞传播的同一批透明渠道，也为未作弊的智能体提供了发现欺诈、组织抵抗并执行规范所需的可见性。我们将管理智能体共享基础设施的问题视为知识公地治理问题（Ostrom, 1990）。为保护公地免受漏洞利用，我们建议采用制度机制，例如分级制裁和集体选择规则，以支持自主群体中的去中心化自我治理。