arXiv cs.AI精选79

超越训练模型:为可靠的解释器基准编译 GNNs

Beyond Trained Models: Compiling GNNs for a Sound Explainer Benchmark

· 11天前

精选理由

以形式化真值评测GNN解释器,揭示其对间接影响和等价实现的不稳健性。

AI 摘要

图神经网络(GNNs)的解释器通常依据其合理性进行评估,即其解释在多大程度上能够还原预先定义的真实依据,例如植入数据中的模体。这一评估协议隐含地假设,在此类数据上训练的 GNN 依赖于预期模体。尽管已有研究质疑这一假设,合理性仍被广泛采用。首先,我们表明,在多个广泛使用的基准上,该假设并不成立;例如,仅凭度统计量就足以解决任务。随后,我们通过用编译替代训练来消除这一混杂因素。为此,我们引入了 $\mathsf{Gracr}$,这是首个将分级模态逻辑公式转换为 GNN 权重的编译器,从而生成能够复现相应公式行为的模型。由于模型的行为现在在构造上已知,我们可以形式化定义其真实解释,并对其进行精确计算。在此基础上,我们引入了 $\mathsf{Gracr}\mathsf{Bench}$,这是一个由编译得到的 GNN 构成的基准,用于根据这一精确真实依据评估解释器。在六项任务上对十一种解释器进行的实验表明,该基准能够有效开展细粒度诊断评估:值得注意的是,我们发现大多数解释器对于间接影响或同一公式的替代实现并不稳健。这些结果使 $\mathsf{Gracr}\mathsf{Bench}$ 成为图后验可解释性领域一种新颖而严格的评估环境。

查看原文(arXiv cs.AI)