arXiv cs.LG精选75

深度集成真的能捕捉图神经网络中的不确定性吗?

Do Deep Ensembles Actually Capture Uncertainty in Graph Neural Networks?

· 2天前

精选理由

揭示图神经网络集成常因预测趋同而低估认知不确定性,并指出其与图结构和平滑偏差的关联。

AI 摘要

arXiv:2605.22593v2 公告类型:替换 摘要:尽管深度集成被广泛视为深度学习中不确定性量化的默认方法,但人们往往仅凭其在计算机视觉等领域的成功,就假定它对图结构数据同样有效。我们专门研究了标准深度集成在消息传递图神经网络中的表现。通过在涵盖不同任务和复杂度的八个数据集上进行基准测试,我们发现,集成相较于单个模型仅带来微小改进。这些微小收益主要源于对点预测中的优化噪声进行平均,而非不确定性估计得到实质性改善。通过对偶然不确定性和认知不确定性进行分解,我们发现了认知不确定性坍缩现象:独立训练的网络总是收敛到过于相似的预测结果。由于预测分歧是集成捕捉认知不确定性的根本机制,这种多样性的缺失抵消了其关键优势。为解释这一现象,我们推导了一个由图拓扑和 Dirichlet 能量预算决定的认知方差界,将认知不确定性坍缩与消息传递的平滑偏置联系起来。我们的结果表明,深度集成的成功并不能直接迁移到图机器学习中。

查看原文(arXiv cs.LG)