arXiv cs.AI精选84

进化智能体团队

Evolving Agent Teams

· 18小时前

精选理由

展示多智能体协作突破局部最优,显著提升代码优化与机器人任务性能。

AI 摘要

软件工程智能体的快速发展推动了人们将其应用于 GPU 内核优化等开放式问题。然而,我们发现,现有的编码智能体在现实世界中由专家编写的内核(例如 FlashInfer)上会收敛到局部最优。我们提出了 Evolving Agent Teams,一种能够逃离此类局部最优的多智能体框架。该框架具有以下特点:(1)一个中央监督器,用于诊断每个局部最优状态并重组智能体团队;(2)一个持久化文件系统,由学习文档、演化历史和各团队的工件组成,从而利用积累的经验为重组提供依据。在相同的 token 预算下,Evolving Agent Teams 的表现始终优于强大的编码智能体基线。在扩展 token 预算下,Evolving Agent Teams 从零开始生成了一个 CUDA 内核,其相较于生产环境中的 FlashInfer MLA 分页解码内核,平均加速达到 1.2 倍;在 FlashInfer-Bench 的 47 个生产工作负载中,它有 36 个取得了更好的结果,其余 11 个的性能为 0.86–0.99 倍。此外,它在多项任务上也展现出更优性能,包括 AMD MI350X 上的 KDA 预填充(相较于 vLLM 提升 3.01 倍)、NVIDIA B200 上的 KDA 预填充(相较于 FlashKDA 提升 3.44 倍)、Apple silicon 上的 MoE 专家卸载服务(在 48 GB M4 Pro 上使用 MLX 4-bit 对 Qwen3.8-Flash-Next 进行解码时达到 30.3 tokens/s),以及 RoboDojo 机器人操作任务(在留出种子上的得分为 62.1,而排行榜最佳结果为 55.3)。代码发布于 https://github.com/caoshiyi/EAT】【。

查看原文(arXiv cs.AI)