arXiv cs.LG精选78

ActiveSaddler:面向智能体运行框架优化的自动课程学习

ActiveSaddler: Automated Curriculum Learning for Agent Harness Optimization

· 11天前

精选理由

提出让训练课程随智能体工具链共同演化的方法,提升代理在复杂任务中的表现。

AI 摘要

arXiv:2610.00906v1 公告类型:cross 摘要:自动运行框架优化可以根据执行反馈,迭代更新提示词、工具接口和控制逻辑,从而显著提升 LLM 智能体的性能。然而,现有方法主要优化运行框架的更新方式,却基本固定了生成反馈、驱动这些更新的训练场景。随着运行框架不断演化,最有助于进一步优化的场景也可能发生变化,这表明训练课程本身也应与运行框架同步适应。我们将运行框架优化中缺失的这一维度表述为自动课程学习问题,并提出 ActiveSaddler。ActiveSaddler 将不断演化的课程建模为一种带有动态实例化优化目标的非平稳赌博机。它将反复出现的失败抽象为可复用的失败模式臂,估计继续针对每种模式进行优化所能带来的潜在学习进展,并在重新访问已知弱点与探索未见场景以发现新弱点之间进行自适应平衡。优化结果会持续更新已发现失败模式的集合及其优先级,使课程能够与运行框架共同演化。在 GAIA2 和 Terminal-Bench 2.0 上的实验表明,与使用在优化前固定场景顺序的相同运行框架优化器相比,ActiveSaddler 能够持续发现更强的运行框架,使测试 Pass@1 分别提升 4.4 和 7.5 个百分点。消融实验进一步表明,这些提升依赖于动态构建优化目标、估计其不断变化的效用,以及在持续优化与发现新失败之间进行平衡。综上,这些结果确立了自动课程学习是运行框架优化中一个新的关键优化维度。

查看原文(arXiv cs.LG)