arXiv cs.LG精选76

DAEDALUS:从自生成任务中引导构建智能体记忆

DAEDALUS: Bootstrapping Agent Memory from Self-Generated Tasks

· 7天前

精选理由

通过智能体自我练习积累可复用经验,减少重复失误,提升新环境中的任务成功率。

AI 摘要

arXiv:2610.08048v1 公告类型:交叉收录 摘要:LLM 智能体往往缺乏在新环境中可靠行动所需的操作知识,因为它们必须自行探索工具的具体行为或环境约定。由于没有对过往尝试的记忆,它们会在不同任务中重复相同的错误,导致更多任务失败和更长的执行轨迹。为解决这一问题,智能体系统通常依赖人工编写的指南,或依赖利用训练任务和预言机验证器构建的程序性记忆,而这两种方式都需要对环境具备先验知识。我们提出 DAEDALUS,一种无需现有任务或预言机验证器、通过自生成练习引导构建可复用智能体记忆的方法。DAEDALUS 将两个智能体配对:探索者与环境交互,生成具有挑战性但可解决的任务;求解者则尝试完成这些任务。系统从求解者的每次失败中提炼一条启发式规则,并且只有在求解者将该规则纳入上下文后反复成功完成任务时,才接纳该规则。这些结果也为探索者提供反馈,以调整后续任务的难度。随后,接纳的启发式规则被整合到记忆库中,供测试时使用。在 AppWorld、$\tau^2$-bench 和 AutomationBench 上,与无记忆基线相比,DAEDALUS 将平均成功率最多提高了 15.9 个百分点,将 pass^5 最多提升至 2.2 倍;其表现可与使用训练任务的方法相媲美,同时推理成本低于其中大多数方法。我们表明,即使探索预算较小,也已能获得性能提升,而且其启发式规则同样能使其他模型家族的智能体受益。消融实验进一步表明,求解者的执行轨迹提供了提炼有效启发式规则所需的关键信息,而将早期发现分解为独立要素则能提高探索的成本效益。除记忆构建外,我们还发现,在按性能对模型进行排名时,DAEDALUS 生成的任务可以作为基准测试任务的替代。代码与相关产物:www.github.com/illuin-tech/daedalus。

查看原文(arXiv cs.LG)