使用逐层探针熵诊断 GNN 的失效模式

arXiv:2610.22595v1 发布类型：新稿 摘要：图神经网络（GNN）通常只在最终层进行评估，从而掩盖了任务相关信息在消息传递过程中的演化。我们提出一种事后诊断方法：冻结训练好的 GNN，为每一层分别拟合一个独立的线性探针，并跟踪探针准确率与归一化预测熵。通过在真实和合成图数据场景中的实验，我们发现，逐层探针熵能够区分有益、无效和有害的平滑效果，而现有几何度量尚未展现出这一能力。此外，通过比较浅层和深层模型，我们表明，熵退化的起始点能够区分 GNN 的两种主要失效模式：异配性下的结构不匹配，即使在浅层模型中也会从最早的层开始出现；以及过深导致的过度平滑，这种现象仅在传播深度增加时才会出现。这些结果确立了探针熵轨迹作为分析 GNN 中信息流动的工具，并为自适应深度选择和提前退出机制的未来研究提供了动机。