PermVLA:将分解顺序作为 VLA 学习的正则化器
PermVLA: Factorization Order as a Regularizer for VLA Learning
精选理由
通过多种动作揭示顺序训练VLA,提升泛化能力且无需增加示范数据。
AI 摘要
视觉-语言-动作(VLA)策略通常通过固定的从左到右(LTR)分解来学习动作块,尽管同一个专家轨迹分布可以对应许多有效的链式法则分解。我们发现,分解顺序是一个被忽视的正则化选择,并提出因果锚定置换(CAP),通过带有可调时间前缀的方式采样动作揭示顺序。其辅助目标训练一个共享策略,使其能够根据同一专家动作块中不同的已知子集来预测动作,而在部署时仍采用确定性的 LTR 控制。我们将其称为 conditional-set augmentation:它无需增加示范数据,便可从一个专家动作块生成多个条件预测问题。这种方法抑制了模型对普通教师强制训练所使用的单一时间前缀的依赖。受控实验表明,在 LIBERO 和 LIBERO-Plus 上,CAP 始终优于标准 LTR 训练;在跨数据集的 CALVIN 评估中也观察到了同样的优势。一项诊断指标通过测量一个动作块在两种揭示顺序下联合对数似然之间的期望平方差,验证了 CAP 训练能够使模型内化不同揭示顺序之间的一致性。这些发现表明,基于采样的子集条件辅助目标可以作为构建 VLA 正则化器的一般方法;我们还通过将其扩展到扩散动作生成器展示了这一点。