arXiv cs.AI精选75

分解它,传递它:LLM 智能体中的跨任务技能迁移

Break It Down, Pass It On: Cross-Task Skill Transfer in LLM Agents

· 54天前

精选理由

揭示LLM技能迁移规律,并给出实用诊断指标。

AI 摘要

大语言模型(LLM)智能体可以从已完成的任务中归纳出技能,并在之后复用这些技能,从而随着经验积累变得更有能力。在实践中,归纳出的技能可能迁移不可靠,甚至会损害检索到这些技能的智能体。智能体归纳的技能何时能够在任务之间可靠迁移,仍是一个开放问题。我们对技能归纳方式如何塑造其跨任务迁移进行了全面且受控的研究。具体而言,我们比较了任务级与子任务级的技能归纳,以及文本与代码两种技能格式,这也是现有方法存在差异的两个维度。任务级技能大多会使智能体的性能低于其无记忆基线,而子任务级技能平均而言会使其性能高于该基线;文本技能的迁移效果优于代码技能。为进一步理解我们的发现,我们考察了归纳技能的两个互补属性:特异性,用于衡量技能与真实任务的匹配程度;抽象性,用于衡量其相关性在各任务之间分布的均匀程度。单独任一属性都无法预测任务成功,但二者的联合效应可以预测;我们据此提出了一种技能效用分数。当技能被迁移时,该分数与任务成功始终保持相关,而子任务级技能和文本技能得分更高。计算技能效用只需要技能和任务描述,不需要任何任务执行,因此我们的分数可作为在运行任何新任务之前诊断技能记忆的实用指标。

查看原文(arXiv cs.AI)