指导性原则,启发性行动:通过知识抽象实现智能体演进
Principles that Guide, Actions that Inform: Agent Evolution via Knowledge Abstraction
精选理由
提出将交互经验提炼为可复用原则并指导行动,帮助智能体持续学习,提升跨任务表现。
AI 摘要
arXiv:2610.06964v1 公告类型:交叉发布 摘要:大语言模型(LLM)智能体在交互式环境中展现出了强大的能力,但其从经验中持续演进的能力仍然有限。尽管微调能够实现适应,但它依赖模型参数访问权限且计算成本高昂,因而灵活性受到限制,对于大规模和闭源 LLM 尤其如此。外部记忆提供了一种替代方案,使智能体能够在不修改模型参数的情况下积累经验。然而,现有方法主要关注经验的表示与组织,而所获取的知识仍与特定任务和情境紧密耦合,限制了泛化能力。一个关键挑战是如何将具体交互转化为抽象且可复用的知识,使其能够超越个别经验,指导未来决策。为应对这一挑战,我们提出 SAGA(通过基于经验的抽象实现自我演进的智能体),这是一个面向 LLM 智能体、以经验为基础的知识抽象与利用框架。SAGA 将交互轨迹逐步转化为情节性描述、可复用流程以及具有明确适用条件的原则,同时保留其与执行证据之间的关联。检索到的原则被实例化为针对具体任务的指导,并通过纠正性反馈和重新采样来改进候选行动。由此形成一个执行—抽象反馈循环:积累的知识指导未来交互,而新经验则不断更新层次化记忆。在 ScienceWorld 和 ALFWorld 上的实验表明,该框架提升了任务表现;消融研究则凸显了情境化实例化和行动调控对于利用原则层面知识的重要性。