RECREG:用于强化学习中正则安全性质的基于恢复的屏蔽
RECREG: Recovery-based Shielding for Regular Safety Properties in Reinforcement Learning
精选理由
介绍RecReg恢复式屏蔽框架,实现非马尔可夫安全约束并提供理论与实证保证
AI 摘要
arXiv:2610.23445v1 公告类型:新 摘要:在许多现实场景中,为了部署强化学习(RL)智能体,我们需要考虑形式化要求,例如安全性和约束遵从性。本文介绍了 RecReg,这是一种安全强化学习框架,能够通过基于恢复的屏蔽来强制执行非马尔可夫正则安全性质。RecReg 是一种统一方法,支持不同程度的先验知识和安全保证。本文主要致力于在表格设置下构建 RecReg 的理论基础,并提供相关工作中所没有的严格安全性和收敛性保证。我们使用 MASA-Safe-RL 库提供了大量实证结果,并概述了利用 SOTA 基于模型的强化学习将 RecReg 扩展到深度强化学习领域的方法。实证结果表明,RecReg 能够实现高效学习,并与本文理论相符。