Gym-Anything for Robotics
Gym-Anything for Robotics: Scaling physical simulations with digital agents
精选理由
以代码智能体规模化构建机器人仿真与基准,推动具身模型训练和现实迁移。
AI 摘要
逼真的高速机器人仿真能够支持大规模训练具身 AI 模型,并将其迁移到现实世界。然而,尽管经过数十年的发展,现有仿真仍仅覆盖范围狭窄的现实任务和物理现象。核心瓶颈在于,创建更好的仿真需要投入大量专家精力,因此难以扩展。为此,我们推出 Gym-Anything for Robotics,这是一个由编码智能体创建逼真机器人仿真的框架。我们的核心洞见是,仿真创建本质上是一项编码智能体任务,因此编码智能体的改进能够直接转化为更丰富、更忠实的仿真。我们依据美国 GDP 数据选择仿真,以覆盖具有经济价值的体力劳动;定义优秀仿真和优秀任务的标准;并设计了一种对抗式创建—审计循环,根据这些定义检查每个仿真和任务。通过这套流程,我们构建了 RoboWorld,其中包含 25 个难度各异的仿真、25 个测试 RL 环境和 175 个训练 RL 环境。即使是最优秀的前沿模型,也无法完成 RoboWorld 中的任何测试任务,平均奖励仅为 0.06。在 RoboWorld 的基础上,我们提出了多种帮助前沿模型改进的新方法,包括在多次重复尝试中进行上下文学习、由读取仿真器状态的特权教师在上下文中指导学生、从模型自身的特权经验中进行自助学习,以及生成不同场景下演示数据的代码策略,用于训练视觉—语言—动作模型(VLA),例如 $π_{0.5}$。这些方法中的每一种都能显著提升性能。我们发布了相关流程、RL 环境和基准,以促进未来研究。代码和数据见 https://gym-anything.github.io/robotics