基于图的分布式强化学习电网控制
Power Grid Control with Graph-Based Distributed Reinforcement Learning
精选理由
提出图神经网络与分布式强化学习电网控制方案,提升可再生能源场景下电网管理的实时性、扩展性与计算效率。
AI 摘要
arXiv:2509.02861v2 公告类型:替换 摘要:可再生能源的必要接入与电力网络规模的持续扩大,给现代电网控制带来了重大挑战。在这种不断变化的背景下,传统的基于人工和优化的控制系统难以适应变化并扩展规模,因此有必要探索更具动态性和分布式特征的控制策略。本研究提出了一种基于图的分布式强化学习框架,用于实时、可扩展的电网管理。所提出的架构由一组分布式低层智能体组成,各智能体作用于单条输电线路,并由一个高层管理智能体协调。该框架采用图神经网络(GNN),将电网的拓扑信息编码到每个低层智能体的观测中。为加快收敛并提高学习稳定性,框架融合了模仿学习和基于势函数的奖励塑形。传统的去中心化方法仅分解动作空间,同时依赖全局观测;与之不同,本方法还分解了观测空间。每个低层智能体都依据通过 GNN 构建的结构化且信息丰富的局部环境视图采取行动。在 Grid2Op 仿真环境中的实验表明,该方法有效,且始终优于该领域普遍采用的标准基线。此外,所提出模型的计算效率也显著高于基于仿真的 Expert 方法。