JAXtari:高吞吐量且易于修改的 Arcade Learning Environment
JAXtari: High-Throughput and Easy-to-Modify Arcade Learning Environment
精选理由
JAXtari以GPU加速雅达利环境,支持对象观测和灵活改造,提升鲁棒学习效率。
AI 摘要
arXiv:2610.23650v1 公告类型:新 摘要:Arcade Learning Environment(ALE)一直是深度强化学习研究的基石,为评估通用智能体提供了标准化基准。然而,它缺乏对原生对象提取和环境修改的支持,限制了有关智能体是否学习到稳健因果模型,还是依赖脆弱视觉启发式方法的研究。此外,ALE 依赖基于 CPU 的模拟,这在现代 GPU 加速训练流程中造成了显著瓶颈,限制了实验规模和迭代频率。在本工作中,我们介绍了 JAXtari,这是一种开源、高性能的 Atari 2600 环境重新实现。借助大规模 GPU 并行化,JAXtari 使 PPO 智能体能够在单个 A100-GPU 上于一小时内完成 1 亿个环境步的训练。除了速度优势外,它还提供以对象为中心的观测和灵活的修改系统,使研究人员能够开发神经符号方法,或发现新的捷径,随后快速训练和调整智能体,有时仅需几分钟。