DAEDALUS:从自生成任务中引导构建智能体记忆
DAEDALUS: Bootstrapping Agent Memory from Self-Generated Tasks
精选理由
无需人工任务与验证器,智能体可自我练习积累记忆,显著提升任务成功率。
AI 摘要
LLM 智能体通常缺乏在新环境中可靠行动所需的操作知识,因为它们必须自行发现特定工具的行为方式或环境惯例。由于没有对过往尝试的记忆,它们会在不同任务中重复相同的错误,导致更多任务失败和更长的执行轨迹。为解决这一问题,智能体系统通常依赖人工编写的指南,或依赖通过训练任务和 oracle verifier 构建的程序性记忆,而这两种方式都需要预先了解环境。我们提出 DAEDALUS,一种无需现有任务或 oracle verifier、通过自生成练习来引导构建可复用智能体记忆的方法。DAEDALUS 配对使用两个智能体:探索器与环境交互,以生成具有挑战性但可解决的任务;求解器则尝试完成这些任务。每次求解器失败后,系统都会提炼出一条启发式规则,只有当求解器在相关上下文中使用该规则反复成功后,这条规则才会被接受。这些结果还会为探索器提供反馈,帮助其调整未来任务的难度。随后,已接受的启发式规则会被整合到记忆库中,供测试时使用。在 AppWorld、$τ^2$-bench 和 AutomationBench 上,DAEDALUS 相比无记忆基线将平均成功率最多提高 15.9 个百分点,将 pass^5 最多提升至 2.2 倍;与使用训练任务的方法相比,其性能具有竞争力,且推理成本低于大多数此类方法。我们表明,即使探索预算较小,也能取得性能提升;其启发式规则同样能帮助其他模型系列的智能体。进一步的消融实验表明,求解器轨迹提供了推导有效启发式规则所需的关键信息,而将早期发现进行因子化则能提高探索的成本效率。除构建记忆外,我们还发现,DAEDALUS 生成的任务可以作为基准任务的替代,用于根据性能对模型进行排名。代码和相关资源:www.github.com/illuin-tech/daedalus】【。