你的离散图扩散模型正在悄悄记忆训练数据

arXiv:2610.13786v1 公告类型：新稿 摘要：离散图扩散模型（GDMs）在马尔可夫噪声模型下，通过向节点和边独立添加噪声来扰动图结构。在没有节点特征的无条件设定下，仅在单个图上训练的等变去噪器就能够生成新图，而边重叠率和 WL 核相似度等样本级指标并未发现记忆现象的证据。在本研究中，我们挑战了这一观点，并首次证明图扩散模型确实存在记忆现象。通过分析在双块随机块模型（SBMs）上训练的 GDMs 的反向扩散轨迹，我们发现了显著的训练数据偏向：与留出的测试图相比，模型能够近乎完美地恢复被扰动的训练图。我们将其称为条件记忆，因为它仅在反向轨迹以被扰动的训练图为条件时才会显现，而在推理过程中并不明显。这一现象伴随着不断扩大的泛化差距，即训练损失下降的同时，留出图上的损失却在上升，而且无法通过早停来缓解。记忆现象的出现始终早于生成图中社区结构的涌现，因此，在此之前的每个检查点生成的图都不具备结构。这种行为在我们测试的所有节点规模下均存在。