arXiv cs.LG精选73

FAR:用于测试时恢复与持续策略改进的失败感知重试

FAR: Failure-Aware Retry for Test-Time Recovery and Continual Policy Improvement

· 6天前

精选理由

让机器人从失败中自适应学习并改进重试策略,提升真实任务的成功率、鲁棒性与数据效率。

AI 摘要

arXiv:2607.01111v2 公告类型:替换并交叉列出 摘要:机器人策略在真实环境中部署时不可避免地会遭遇失败。简单重试往往会重复相同的错误,而许多现有的恢复方法依赖人工干预。本文提出 Failure-Aware Retry(FAR),这一框架使机器人能够在测试时从先前的失败中学习,相应地调整行为,并最终自主完成任务。FAR 将 Failure-Contrastive Preference Adaptation 与重试过程中的轻量级动作扰动相结合:前者利用失败案例构建偏好学习数据,引导策略避开先前未能成功的行为;后者则用于促进局部探索。我们进一步将成功恢复的轨迹纳入训练循环,以持续改进策略。在仿真和真实世界操作任务中的实验表明,FAR 显著提高了成功率和鲁棒性,相较于标准扩散策略,在仿真和真实世界中的平均提升分别为 17.6% 和 11.7%。此外,在持续策略改进过程中,FAR 利用信息丰富的失败案例,在重置次数预算和时间步数预算两种约束下均提高了数据效率。视频和代码可在 https://hoar012.github.io/FAR-Project 获取。

查看原文(arXiv cs.LG)