FastOPD:面向轻量级 VLA 部署的在策略蒸馏
FastOPD: On-Policy Distillation for Lightweight VLA Deployment
精选理由
了解FastOPD以蒸馏实现轻量VLA,降低推理延迟并保持操作性能。
AI 摘要
arXiv:2610.02832v1 公告类型:cross 摘要:视觉-语言-动作(VLA)基础模型不断扩展规模,以提升操作性能和泛化能力,但这种规模扩展带来了高昂的计算成本,使其在现实世界中的部署日益困难。现有方法通常通过设计更小的架构或减少基于流策略中的迭代去噪步数来缓解这一问题。在本文中,我们提出 FastOPD,一种从基础模型到轻量级 VLA 的框架,通过高效的在策略蒸馏实现大规模 VLA 的实际部署。具体而言,FastOPD 针对单状态教师监督调整流映射,并将其与自一致性目标相结合,构建能够学习教师动态的紧凑学生模型。此外,我们从理论上证明,最小化该目标能够使蒸馏后的学生模型恢复出与理想少步教师模型所诱导分布相当的分布。我们在仿真和真实世界实验中,针对多种基础策略对 FastOPD 进行了评估。在 LIBERO 上,FastOPD 仅使用两步推理便保留了 $\pi_{0.5}$ 84% 的性能,将推理延迟降低了 78.1%,同时在平均成功率方面超过了现有的少步蒸馏基线。以 LingBot-VLA 为教师模型时,FastOPD 在 RoboTwin 2.0 上将单步成功率相较于基础学生模型提升了 15.9 个百分点。我们进一步展示了其在 World Action Model(WAM)上的适用性,并将从 MolmoAct2 蒸馏得到的紧凑学生模型部署在真实机器人上。