在测试时 AI4AI 中学习用于智能体执行框架设计的元技能
Learning Meta-Skills for Agent Harness Design in Test-Time AI4AI
精选理由
揭示元技能如何优化智能体执行环境,显著提升未知任务表现,为系统自我改进提供路径。
AI 摘要
智能体的性能取决于其推理能力,以及它所处的执行环境。我们研究测试时 AI-for-AI,探讨在两个模型的权重均保持不变的情况下,Builder 如何学习为 Target 构建更优的执行环境。为使 Builder 的经验能够复用,我们引入 Meta-Skill:用于规定何时需要支持以及应提供哪些资源的原则。Builder 从 Target 在开发集上的执行反馈中学习这些原则,然后利用冻结的技能库为未见过的任务构建执行框架。在 Harness-Bench 和 NewtonBench 上,完整技能库中的元技能相比不使用技能进行构建,使宏平均性能提升了 8.95 个百分点;相比将同一技能库直接提供给 Target,则提升了 12.02 个百分点。这些结果凸显了将经验转化为可执行支持的价值。当同一模型同时担任两个角色时仍能取得性能增益,这进一步表明,通过学习构建更优环境,可以实现系统层面的自我改进。