arXiv cs.LG精选78

多智能体系统中的同质化

Homogenization in Multi-Agent Systems

· 6天前

精选理由

揭示多智能体互动如何压缩行为多样性并放大系统性风险,为评估和设计更稳健的智能体系统提供依据。

AI 摘要

arXiv:2610.09824v1 公告类型:新 摘要:多智能体系统(MAS)利用智能体之间的交互来执行复杂任务。尽管这类系统取得了成功,我们表明,这些交互也可能导致同质化,即智能体逐渐趋于相似的行为。MAS 中的同质化会降低智能体多样性,并强化共同的失败模式。在本文中,我们使用三个指标对同质化进行操作化定义:对多数意见的趋同、向极端的极化,以及在后续交互中对变化日益增强的惯性。我们在代码生成、招聘和科学同行评审任务中评估了 MAS 的同质化现象。在这些任务中,我们表明,同质化会转化为具体的下游风险:在代码生成中,它会掩盖并放大相关错误,从而造成系统性漏洞;在招聘中,即使存在偏见的智能体被移除,其影响仍可能长期持续;在同行评审中,它会导致不同研究领域之间形成不均衡的评价标准。我们的结果确立了同质化是 MAS 的一种失效模式,表明对 MAS 的评估必须超越总体性能,仔细分析交互动态。最后,我们表明,提高多样性的简单方法——利用采样随机性和混合模型 MAS——并不能降低同质化风险,这凸显了制定能够有效利用智能体多样性的策略的必要性。

查看原文(arXiv cs.LG)