CuraEval:在混合技能机器人数据上评估示范筛选
CuraEval: Evaluating Demonstration Curation on Mixed-Skill Robot Data
精选理由
CuraEval揭示机器人示范筛选的评估陷阱,助力严谨比较数据选择方法。
AI 摘要
机器人模仿学习使用来自不同技能水平操作员的示范,但训练数据的选择仍然具有挑战性。现有方法根据平滑性、多样性或对策略性能的估计影响为示范打分,但由于筛选和评估协议存在差异,很难确定它们是否优于简单基线。我们提出 \textbf{CuraEval},这是一个将示范评分的数学分析与受控比较相结合的框架:在混合技能的 robomimic 数据上,使用 Diffusion Policy 和 BC-RNN,将各方法与固定大小匹配的随机子集以及全数据训练进行比较。我们表明,所评估的 PSD 分数仅取决于回合长度和位置幅值的平方,并且在 \textit{square} 上与回合长度产生几乎相同的排序($ρ=0.999$)。使用 Diffusion Policy 时,选择最短的 50\% 示范,使 \textit{square} 的成功率从随机选择下的 70.7\% 提升至 76.5\%。与随机选择相比,我们改进的几何熵 LOO 筛选器在 \textit{can} 上将保留率为 25\% 时的成功率从 94.7\% 降至 74.0%,并在 \textit{square} 上取得 41.7% 的成功率,低于三个独立采样随机子集的平均成功率(59.8--62.5\%)。在相同的 3 个 \textit{square} Diffusion Policy 训练随机种子下,保留率为 75\% 的基于长度的筛选在原始协议下将成功率从全数据训练的 76.7\% 提升至 86.7%;但在同时更改检查点报告方式、rollout 次数和评估随机种子后,成功率则从 80.5\% 降至 79.5\%。经过 Holm 校正后,没有任何经过评估的数据筛选条件能够显著优于全数据训练,尽管置信区间仍然允许取得有益的提升。代码可在 https://github.com/jiuyixu25/CuraEval 获取。