arXiv cs.LG精选73

HARL-A:用于 IsaacLab 中异构多智能体对抗强化学习的可扩展基准测试框架

HARL-A: An Extensible Benchmark Framework for Heterogeneous Multi-Agent Adversarial Reinforcement Learning in IsaacLab

· 7天前

精选理由

为异构机器人对抗强化学习提供可扩展的仿真基准、开源工具与预训练策略,降低研究和复现实验门槛。

AI 摘要

arXiv:2510.01264v2 公告类型:替换 摘要:机器人领域的对抗多智能体强化学习(MARL)进展受到制约,原因是缺乏能够在高保真物理仿真中支持异构智能体形态的共享、可扩展基础设施。现有框架要么专注于协作任务,要么依赖简化的物理引擎,要么提供难以扩展的孤立实现。我们提出 HARL-A,这是一个基于 IsaacLab 构建、持续维护的开源框架,支持针对形态多样的机器人团队进行可扩展的对抗策略训练与基准测试,允许任意数量的团队以及每个团队内任意组合的机器人形态。HARL-A 为 HARL 算法库和 IsaacLab 扩展了对抗多智能体支持,并提供了三个组成部分:(1)模块化软件架构,降低了定义新异构对抗环境的工程开销;(2)包含 Sumo、Soccer 和 3D Galaga 三个基准测试环境的套件,涵盖密集接触推挤、球技竞赛以及追逐与躲避;(3)十余个覆盖同构和异构团队配置的预训练策略,已在 Hugging Face 上公开发布,使用户无需从头重新训练即可立即探索对抗学习的动态过程。我们在多个竞争场景中演示了该框架,表明它能够可靠地生成学习得到的对抗策略,并涌现出角色专门化现象。所有代码、环境、训练好的策略和文档均已公开,地址为 https://github.com/DIRECTLab/IsaacLab-HARL。

查看原文(arXiv cs.LG)