教大型语言模型看懂图：统一文本推理与结构推理

arXiv:2605.10247v2 公告类型：替换 摘要：将大型语言模型（LLM）应用于图结构数据，通常需要采用多步骤流程：先将文本节点属性压缩为单个标记，再由 GNN 进一步处理，从而丢弃其中大部分语义信息。我们提出 Graph Transformer Language Model（GTLM），使预训练 LLM 能够原生处理图拓扑结构，并彻底消除这一瓶颈。GTLM 将图感知注意力偏置直接注入 LLM 的注意力模块，相对于基础模型仅增加 0.015\% 的结构相关参数。训练时只更新结构参数以及基础模型上的 LoRA 适配器。我们证明，双向注意力前缀关于节点具有置换等变性；当不存在图结构时，GTLM 会精确退化为预训练模型。由于不依赖全局节点排序，GTLM 不会出现位置退化，也不会“在中间迷失”：图中针状信息的准确率从 1k 到 64k 个标记，以及超出训练长度 4 倍的范围内都保持稳定，而采用相同训练方式的扁平文本基线则性能崩溃。全面评估表明，在带文本属性的图基准、WebQSP 上的 GraphRAG 以及分子基准上，GTLM 达到或超过了领域专用的最先进模型；在 GraphQA 上，相较于强基线也取得了显著提升。我们进一步表明，GTLM 的注意力头能够隐式学习模拟消息传递，从而解释了其在算法任务上的优势。总体而言，这些结果表明，只需进行最小程度适配的预训练 LLM，就可以作为图学习的通用骨干模型。