SwarmEvolve：用于演化发现与优化的潜在空间智能体群

由 LLM 引导的演化搜索利用 AI 智能体，通过迭代改进解决方案并组合高分方法，优化用于数学与计算问题的程序。然而，这一过程往往较慢，因为 LLM 在每一轮都要生成冗长的文本思维链，并且必须多次重复生成以维持种群多样性。我们提出了 SwarmEvolve 框架，其中每轮有数百个低成本智能体以群体形式协作，在潜在空间中进行推理而不解码为文本，并通过传递 KV 缓存共享信息。每个智能体群从不同角度研究问题。新颖性过滤器通过直接测量智能体隐藏状态向量之间的距离，保留最具差异性的智能体思路。负责总结的智能体接收所有群体成员合并后的 KV 缓存，使思路的交叉重组在潜在空间中自然发生。在数学发现与科学计算领域的 21 个问题上，SwarmEvolve 获得了最高平均得分，并且仅需 3 至 8 分钟的中位耗时，就能达到其他最先进框架在 60 分钟内取得的最佳得分。在若干问题上，采用 Qwen3 8B 的 SwarmEvolve 改进了 AlphaEvolve 最初使用前沿 LLM 找到的解决方案。我们的工作表明，在潜在空间中通信的智能体群，为科学问题的程序搜索提供了一种快速、低成本的方法。