arXiv cs.AI精选76

通过 Conditional Flow Matching 蒸馏实现高效的多任务操作策略

Distillation for Efficient Multitask Manipulation Policies via Conditional Flow Matching

· 20天前

精选理由

将单任务专家知识蒸馏为高效多任务操作策略,固定模型规模下提升性能。

AI 摘要

近年来,生成式建模已被广泛应用于机器人策略学习。特别是,使用专家示范训练的 Conditional Flow Matching(CFM)已被证明在机器人操作基准测试中优于现有方法。以往研究主要聚焦于单任务设置,而我们从多任务视角研究这一问题,因为为每个任务分别训练独立模型的计算成本很高。多任务策略学习本身也面临一系列挑战:在拼接后的示范数据集上进行朴素训练,要么需要提升模型容量以适应增加的复杂性,要么会导致性能下降。我们提出将单任务 CFM 专家的知识蒸馏到共享的多任务策略中,通过迁移其学习到的速度场来实现这一目标。我们将这一蒸馏信号与原始 CFM 目标相结合,以保持对示范数据的忠实性。在 RLBench 上的实验表明,在保持模型大小不变的同时,我们的方法相比朴素训练能够提升多任务策略的性能。

查看原文(arXiv cs.AI)