用于图表示学习的高阶位置编码
Higher-Order Positional Encodings for Graph Representation Learning
精选理由
提出高阶位置编码,让标准图模型无需改动即可利用高阶拓扑信息并提升预测性能。
AI 摘要
arXiv:2610.01903v1 公告类型:新 摘要:许多现实世界的系统在实体群组之间表现出高阶交互,而仅靠成对关系无法捕捉这类交互。Graph Transformers 和图神经网络越来越依赖位置编码来丰富图表示,但现有位置编码仅根据原始图计算,因此无法直接捕捉观测到的高阶交互。拓扑深度学习通过将图提升为单纯复形来应对这一局限,但通常需要在高阶神经网络表示上执行消息传递或注意力机制。我们提出一种表示学习范式,通过位置编码将高阶拓扑融入图表示,使标准图学习模型无需修改骨干网络,即可利用提升后的关联结构。我们推导了高阶位置编码表达能力的理论刻画,证明由高阶提升所诱导的节点级算子能够以标量图谱滤波器无法实现的方式混合图拉普拉斯频率。在该理论的指导下,我们利用从团复形导出的 Hodge 拉普拉斯算子构造高阶位置编码。在 ZINC 和受控合成基准上的 Graph Transformers 实验表明,该方法提升了预测性能;而固定 1-骨架实验显示,当胞元独立于图单独提供时,该流程能够传递高阶信息。总而言之,我们的结果确立了高阶位置编码作为连接图位置编码与拓扑深度学习的原则性桥梁。