MetaExp:通过可验证的跨任务环境扩展,学习利用经验实现自我改进
MetaExp: Learning to Self-Improve through Experience via Verifiable Cross-Task Environment Scaling
精选理由
通过可验证的跨任务训练,让智能体积累并迁移可复用经验,在多类任务中持续提升表现。
AI 摘要
语言模型智能体能够积累交互反馈,但如何可靠地将这些反馈转化为可复用的经验仍是一项挑战。现有方法要么优化外部经验支撑框架,要么在特定任务分布上训练与经验相关的行为,尚未解决经验学习本身能否成为一种可迁移的模型能力。训练这种能力需要超越孤立任务的监督信号,因为孤立任务主要支持单次交互过程中的问题求解,而无法揭示哪些知识在不同交互过程之间仍然有用。在本研究中,我们提出 MetaExp,这是一个可扩展的框架,通过具有受控跨任务结构的可验证任务族来训练这种能力。每个任务族在改变任务具体实现的同时保留一个可复用因素,从而无需直接复用解决方案即可实现迁移。我们提出两种互补设计:Shared-Tool 任务族在不同任务中保持黑盒工具不变,以引导形成操作经验;Shared-Workflow 任务族则在不断变化的具体实现中保留潜在流程,以引导形成程序性经验。我们基于这两种设计扩展环境规模,收集并筛选序列交互轨迹,并使用来自 1,000 个任务族的 4,956 条轨迹对 Qwen3.5-122B-A10B 进行微调。在下游演进过程中保持参数冻结的情况下,MetaExp 在 SpreadsheetBench 上提升了 8.5 分,在 APEX-Agents 上最高提升了 2.3 分,在 AutomationBench 上提升了 14.8 分。在训练时排除目标领域后,这些增益依然存在,表明经验学习可以成为一种可迁移能力,支持模型在部署后持续进行非参数化改进。