arXiv cs.AI精选77

LAPT-Scale:通过人类视频中的潜在动作预训练扩展具身策略

LAPT-Scale: Scaling Embodied Policies with Latent Action Pre-Training on Human Videos

· 4天前

精选理由

利用海量人类视频学习隐式动作,让机器人减少昂贵数据依赖,并提升真实任务成功率与泛化能力。

AI 摘要

通用机器人策略的规模化受到具身交互数据采集成本高昂的限制。大规模第一人称视角的人类视频提供了一种数据丰富的替代方案,但这些视频缺乏机器人动作标签,而且在现实世界复杂的视觉环境和多样化的操作动态下,现有动作标注方法往往噪声较大。我们提出 LAPT-Scale,这是一种可扩展的潜在动作预训练范式,包含两个组件:LAPT-Scale-LAM 通过解释人类视频中相邻帧之间的视觉变化来学习连续潜在动作,并将其用作源自人类的监督信号;LAPT-Scale-Policy 则通过人类视频潜在动作预训练、目标机器人具身形态对齐以及任务特定的后训练来训练 VLA 策略。与以往采用向量量化的 LAM 不同,LAPT-Scale-LAM 使用连续潜在空间来保留细粒度的运动与交互动态。我们进一步结合感知、语义和光流对齐信号,使视觉变化层面的监督超越单纯的像素重建。LAPT-Scale-LAM 在 2.33 万小时的第一人称视角视频上训练,为策略预训练提供隐式动作监督,带来持续的规模化收益:当经过标注的人类视频从 1000 小时扩展至 5000 小时时,真实机器人任务成功率从 63.3% 提升至 85.0%。所学策略还能泛化到未见过的视觉条件。

查看原文(arXiv cs.AI)