EmbodiedRSI:通过假设引导的协同演化实现主动持续机器人学习
EmbodiedRSI: Active Continual Robot Learning Through Hypothesis-Guided Co-Evolution
精选理由
通过假设引导机器人自主选择实验并迭代技能,提升持续学习效率与复杂任务成功率,并验证了真实场景迁移能力。
AI 摘要
机器人基础模型提供了强大的视觉运动控制能力,但当物体位置或任务指令发生变化时,其性能可能下降。进一步提升性能通常需要利用大量机器人数据进行后训练,而通过遥操作等方式收集这些数据的成本可能很高。智能体框架可以在模型外围进行适配,但现有的自演化框架在决定推进哪些代码和技能变更时,对机器人试验的利用效率较低。我们提出 EmbodiedRSI,这是一种自演化智能体框架,能够自主决定下一步探索方向,并将由此产生的物理交互转化为代码和技能的改进。EmbodiedRSI 通过快慢双系统架构实现这一过程,在假设图中维护相互竞争的代码与技能假设。基于信息价值的实验选择机制会挑选能够区分这些假设的物理实验,实验结果则指导代码与技能的协同演化。慢系统构建分层记忆,而基于奖励的记忆学习根据记忆对后续快系统改进的价值,筛选有效记忆。在 RoboCasa365 上,EmbodiedRSI 的总体成功率达到 77.0%,在 Composite-Unseen 上达到 71.3%,相比之下,最佳基线的成功率为 40.1%。EmbodiedRSI 在 LIBERO-Pro 上的总体成功率也达到 86.8%。除基准测试表现外,EmbodiedRSI 还可零样本迁移至真实世界机器人,在多项具有挑战性的任务中实现 71.3% 的总体成功率。