质量感知 VLA 预训练中的关键因素：基准与实证研究

在视觉-语言-动作（VLA）预训练过程中，应如何利用示范质量来提升目标任务微调后的性能？我们使用 5,000 条自然产生的次优人类示范和 24 个目标任务，在不同奖励定义和标签粒度下比较了加权、过滤和条件化方法。对于每个 VLA，我们确保各方法使用相同的示范和训练预算。其他比较还考察了预训练数据规模，以及质量标签在微调和推理过程中的作用。在三个 VLA 上，我们发现：感知接近过程的回合级条件化相较于普通行为克隆提高了平均成功率；平均而言，条件化和过滤分别更适合回合级标签和片段级标签，但具体模型上也会出现相反的结果；在条件化预训练之后，无论推理时是否使用标签，采用固定标签进行微调都能提高平均成功率。我们推出了 AXIS-Bench，以支持这些受控比较。该基准基于众包仿真示范构建，提供了记录的物体状态和接触状态，可用于在共享轨迹上重新计算质量标签。可回放轨迹支持与工作空间对齐的渲染，以及用户自定义的真实世界目标任务。在我们的真实世界实验中，仿真预训练将成功率从 9.6% 提升至 31.7%。项目页面：https://axis-bench.github.io/。