arXiv cs.AI精选73

神经符号具身智能体

Neurosymbolic Embodied Agents

· 57天前

精选理由

揭示如何让具身智能规划更可执行、更高效。

AI 摘要

语言模型和视觉-语言模型能够生成看似合理的具身计划,但并不保证其可执行性,因为它们的输出可能违反环境动态,或作用于错误落地的实体。我们提出一种神经符号智能体,将长时域家务任务分解为任务导向的视觉探索和受约束的符号规划。第一阶段中,视觉-语言模型和探索框架从第一视角观察与落地交互中获取与目标相关的谓词和实例绑定,生成符号初始状态。第二阶段中,PDDL 转移模型将解码限制为能够扩展适用动作的 token。随后,Monte Carlo tree search 使用领域无关的规划启发式方法评估可执行的后续步骤。在该转移模型下,所得计划按构造即为可执行;其向环境的迁移则取决于正确的视觉落地。在 VirtualHome 和 ALFWorld 上,开放的 4B-27B 模型在两个环境中的成功率均超过 90%,且我们最小的智能体在各环境中都显著优于 27B 的直接视觉策略。约束与搜索被证明是互补的,而非可互换的:在 ALFWorld 中,二者单独使用时都只能解决不到三分之一的任务,而结合使用可解决超过 95% 的任务。该方法生成的 token 数量也比 extended thinking 少数倍,模型可见图像数量远少于直接交互;并且在无需任何专门训练的情况下,残余失败主要定位于状态获取而非计划生成。

查看原文(arXiv cs.AI)