arXiv cs.AI精选80

双层协调反思:一种面向多智能体 LLM 系统的博弈论方法

Bilevel Coordinated Reflection: A Game-Theoretic Approach to Multi-Agent LLM Systems

· 41天前

精选理由

为多智能体LLM提供协调与反思的统一理论框架和可落地改进方法

AI 摘要

多智能体 LLM 系统通常使用一个 orchestrator 将任务分解给一组工作者,随后通过文本反思进行改进。尽管经验结果很强,但这些系统缺乏对协调、记忆改进以及外部验证作用的统一解释。我们将 orchestrator-worker 交互建模为一个双层协调博弈:在有界耦合下,工作者的局部更新博弈是一个近似势博弈,其均衡松弛量由分解质量控制。随后,我们将反思分析为在语义记忆状态上的随机移动。对于自由形式反思,我们推导出一个有限时间上界,证明了最坏情况的紧致性,并在一个可证伪的持续伤害条件下给出一个正下界。我们进一步证明一个信息论不可能性结果:任何只观察生成文本记录的门控器都无法在文本不可区分的环境上实现一致改进,而基于环境的门控器则可以。受这一分离启发,我们提出 Stochastic Reflective Memory Ascent (SRMA),它仅在基于环境的评估风险严格下降后才接受候选记忆。在校准和非退化纠正质量下,SRMA 可精确收敛,且收敛速率为几何级或多项式级;相应构造表明这两种速率情形在阶上都是紧的。我们还为随机评估提供置信门控,并为分段平稳环境提供重新锚定保证。实验使用基于环境的指标实例化这些对象,并检验所预测的协调与漂移规律。在 500 个 SWE-bench 实例上,完整的基于 Kimi 的系统成功解决了 72.2%,而公开的 mini-SWE-agent 参考系统为 70.8%。代码:https://github.com/YihangChen9/Bilevel-Coordinated-Reflection

查看原文(arXiv cs.AI)