arXiv cs.AI精选76

批处理反思式优化循环:并行提案让 GEPA 更快更好

Batching the Reflective Optimization Loop: Parallel Proposals Make GEPA Faster and Better

· 19小时前

精选理由

通过批量并行评估候选方案,显著加速并提升智能体优化效果,节省成本。

AI 摘要

反思式文本优化能够提升智能体系统的性能,但优化循环本身是一项资源消耗很大的工作,其串行结构使并行评估能力处于闲置状态。我们扩展了开源的 GEPA 优化器,使其在每个优化步骤中提出并评估一批候选方案,而不是一次只处理一个候选方案。在对两个任务进行的参数扫掠中,大多数批处理运行的总耗时缩短至原来的一半或更少,最快的约为原来的四分之一至三分之一。批处理设置还取得了更高的留出测试分数:在 LiveBench-Math 上从 68.9% 提升至 72.1%(采用 $2\times2$),在 HoVer 上从 49.0% 提升至 60.0%(采用 $8\times1$)。一个简单的运行时间模型解释了有限工作线程池下测得的加速效果;此外,批处理设置也能更高效地利用指标调用次数和资金预算。我们梳理了反思式优化步骤可实现并行扩展的各个维度,并首次探讨如何在这些维度之间分配固定的优化预算。

查看原文(arXiv cs.AI)