RobustRLlib:鲁棒强化学习算法的统一库与基准
RobustRLlib: A Unified Library and Benchmark for Robust Reinforcement Learning Algorithms
精选理由
整合17种鲁棒强化学习算法并系统评测其应对多类扰动的能力,为选型、复现和改进提供基准。
AI 摘要
鲁棒强化学习(RL)对于在现实世界中实现可靠部署至关重要,因为策略可能在各种分布偏移和干扰下失效。现有鲁棒 RL 算法提供了丰富的机制与原理,但两大障碍限制了其更广泛的潜力:算法复用性有限,以及实证能力边界不明确。我们推出 RobustRLlib,这是一个以算法为中心的库与基准,旨在应对这两项挑战。它通过统一接口集成了 17 种具有代表性的鲁棒在线、离线及安全 RL 算法,显著提升了复用性,同时提供了增强的评估平台,涵盖现实世界中的多种分布偏移,以及先进的人形机器人任务和视觉-语言-动作任务。通过对 273 种扰动配置进行系统评估,我们绘制了当前鲁棒 RL 算法的最新能力图谱,揭示了这些算法在哪些情境下仍然有效,以及在哪些情境下仍存在显著的鲁棒性差距。作为一个开源且用户友好的平台,RobustRLlib 提供了可复现、可扩展的代码库,支持将现有方法应用于新问题,以及开发新的鲁棒 RL 算法。