arXiv cs.AI精选71

Cycle WAM:通过循环一致性耦合动作与视频

Cycle WAM: Coupling Action and Video through Cycle Consistency

· 19小时前

精选理由

通过循环一致性统一动作与视频学习,提升机器人前向与逆向动力学预测能力。

AI 摘要

近期视频建模领域的进展推动了世界动作模型(WAMs)的显著发展。现有方法利用预训练视频先验,从潜在表示中解码动作,或从生成的视频中推断动作。其内在联系是因果关系:机器人动作会导致场景发生变化,而对这些变化的视频观测则为推断产生这些动作的行为提供了证据。然而,现有的训练形式本身并不能确保动作及其预测的视觉后果保持一致,这可能限制了预训练能力的利用。我们将视频和动作视为由这种因果关系连接的成对模态,并通过统一的训练框架学习二者之间的对应关系,以更充分地利用预训练视频先验。Cycle WAM 首先通过引入双向转换,对视频—动作联合训练进行增强,从而强化跨模态对应关系,并恢复正向与逆向动力学。随后,它引入可微分的循环重建目标,进一步耦合这两个映射。最终得到的模型同时支持正向和逆向动力学,并有望通过更有效地利用预训练视频先验来提升性能。Cycle WAM 在 LIBERO-Pro 上的同类方法中取得了当前最佳性能,并在 DROID 上显著提升了 DreamZero。与 UWM 的比较刻画了其逆向动力学性能,并显示其正向动力学预测在展示出的视觉细节方面更加清晰。

查看原文(arXiv cs.AI)