arXiv cs.AI精选80

Long-WAM:扩展世界-动作模型的上下文

Long-WAM: Scaling the Context of World-Action Models

· 6天前

精选理由

通过保留并利用长时视觉历史,Long-WAM提升机器人动态与长程操作成功率,并实现实时部署。

AI 摘要

实时机器人控制需要足够的视觉历史来推断运动和任务进展,但处理这些历史信息可能会延迟动作执行。我们提出 Long-WAM,这是一种模型-系统框架,用于在实时控制约束下扩展因果世界-动作模型的上下文。我们的核心发现是,能够访问历史信息并不等于能够利用它:当视频基础模型采用自回归(AR)预训练时,更长的历史信息带来的收益要大得多。我们首先从不带动作标签的机器人视频和第一人称视角视频中学习因果预测,然后在世界-动作适配过程中保留这种从历史到未来的结构。在 RoboCasa GR-1 上,将上下文从 0.0 秒增加到 19.2 秒,成功率从 63.3% 提升至 78.7%,而采用双向预训练初始化时则没有净收益;机器人领域的 AR 预训练进一步提高了 GR-1 和 LIBERO-Long 上的最高成功率。Long-WAM 在 LIBERO-Long、RoboTwin 2.0 和 DOMINO 上也取得了对比方法中的最佳结果。流式观测编码、异步执行和针对特定硬件的加速,使其能够在不舍弃未来预测的情况下部署于 RTX 5090、DGX Spark 和 Jetson AGX Thor;在 RTX 5090 上,每个动作块的处理耗时为 107.4 毫秒,其中包括未来视频潜在表示的预测。在 Unitree G1 和 YAM 上的实时部署支持动态及长时程操作,其中动态叠杯任务的成功率达到 95%,而 Pi0.5 和 Fast-WAM 在各自的 20 次试验中均未成功。作为利用记忆信息的执行器,Long-WAM 还可在复合任务中与更高层级的规划形成互补。

查看原文(arXiv cs.AI)