面向实时边缘推理的电网基础模型物理感知蒸馏

arXiv:2610.21833v1 公告类型：新发布 摘要：Grid foundation models（GridFMs）是基于掩码潮流目标进行预训练的图Transformer，其潮流评估速度比迭代求解器快几个数量级。然而，其规模面向数据中心推理，而低惯量运行日益要求在边缘侧、靠近测量设备的位置进行推理，批大小为 1，并且在单个同步相量（PMU）报告帧内完成。我们使用一种结合掩码潮流损失、输出迁移、物理残差迁移、潜在状态迁移和注意力迁移的目标函数，将一个拥有 20.1M 个参数、12 层的 GridFM 教师模型蒸馏为一个拥有 0.62M 个参数、6 层的学生模型，在消息传递深度减半的同时实现 $32.5\times$ 的参数量缩减。物理残差项用于匹配教师模型的功率残差分布，此前尚未应用于带类型信息的电网图。我们在 IEEE 118-bus 基准电网上进行评估，该电网采用可再生能源变体：将 26 台传统（同步）发电机替换为基于逆变器的可再生能源设备，并配备电池灵活性和标准化的无功功率限值（IEEE 1547），从而得到 $97\,529$ 个物理有效的（满足 AC-OPF 可行性）运行场景。我们对迁移项的全部八种组合进行消融实验，分别报告相对于真实值的准确性以及对教师模型的保真度。蒸馏使学生模型在四种预测量上的误差均有所降低，其中有功功率调度误差最高降低 $48\%$；并且每个经过蒸馏的学生模型在无功功率调度上的准确性都高于其教师模型。性能提升主要由输出匹配项带来。本文采用的按层聚合形式的物理残差项始终有害，这归因于其对母线级残差场进行的空间平均。最终得到的学生模型参数量缩小了 $32.5\times$，消息传递深度减半，因此有望用于后续的边缘设备基准测试。