arXiv cs.AI精选74

AGM:面向冻结 VLA 策略的闭环智能体的基于成就记忆

AGM: Achievement-Grounded Memory for Closed-Loop Agents with Frozen VLA Policies

· 45天前

精选理由

帮助读者理解如何让冻结VLA智能体可靠闭环记忆。

AI 摘要

冻结的视觉-语言-动作(VLA)策略提供了广泛的操控能力,但它们会在不跟踪任务进展的情况下执行开环动作块,因此智能体无法可靠地判断是应继续、重试还是终止。外部记忆是一种自然的补救办法,然而当把尝试过的动作当作已完成的进展时,它反而可能有害,从而把局部执行错误转化为持久的任务状态错误。我们提出 Achievement-Grounded Memory(AGM),一种面向冻结 VLA 策略的轻量级闭环框架,它将任务表示为带有进度指针的子目标序列,并且只有在当前子目标被物理证据验证之后才推进这段记忆。本体感觉交互线索决定何时进行验证,而来自冻结基础模型的连贯点跟踪与语言条件下的跨视角比较,则通过一个仅含 2.43M 参数的验证头来决定已完成了什么。AGM 由此将开环执行转化为由执行、验证和进度组成的闭环,同时保持策略冻结,无需在测试时进行大模型推理。在 RoboMME Counting 基准上,AGM 在 PickXTimes 和 BinFill 上取得了显著结果,平均超过最强的带记忆增强基线若干个百分点,并且该框架在实体机器人上也带来了同样明确的提升。因此,可靠的具身记忆更多依赖于规范的状态更新,而不是记忆容量。

查看原文(arXiv cs.AI)