提升之前先分批：大图上的可扩展拓扑深度学习

arXiv:2610.12247v1 发表类型：新 摘要：拓扑深度学习将基于图的学习扩展到高阶域，例如超图、胞腔复形和单纯复形。这些域通常通过图提升过程，从输入图中的模式构建而成。全域训练会在模型执行前构建并存储完整的提升表示。在 Reddit（233k 个节点和 57.3M 条边）这类大规模且稠密的数据集上，这种全局实体化会成为严重的计算瓶颈，往往使训练无法进行。为解决这一局限，我们提出了 Cluster-TNN，这是一种与域无关的框架，通过进行局部提升来避免这一瓶颈。在预处理阶段对输入图进行划分后，Cluster-TNN 在运行时动态采样节点簇组，重建其诱导子图以形成小批次，并在每个小批次内执行所选的提升操作。保留采样节点之间的所有边，可以保留跨簇构建高阶结构所需的连通性，从而生成现有拓扑神经网络可以直接处理的拓扑小批次。在与全图执行的 21 组匹配比较中，Cluster-TNN 在每种配置下都降低了 GPU 峰值内存，平均降幅达 83.2%，同时保持了具有竞争力的预测性能。值得注意的是，据我们所知，这种内存降低首次使得在 Reddit 和 OGBN Products 等大型数据集上训练多种不同的高阶拓扑神经网络成为可能。这些结果表明，Cluster-TNN 是一种通用策略，能够突破全局域构建的限制，扩展拓扑深度学习。