高阶对象的通用样本式嵌入

arXiv:2610.19899v1 公告类型：新论文 摘要：神经网络天然适用于有限维向量，然而许多问题需要对分布、函数和图等高阶对象进行推理。这类对象刻画了底层集合内部的关系，通常难以用显式的紧凑形式表示。此外，我们通常希望获得的并非单个高阶对象的紧凑表示，而是整个对象族的紧凑表示，其中也包括训练期间未见过的成员。尽管已有少量方法适用于特定对象类型，但尚无方法旨在跨对象类型通用。我们提出了一个统一框架，通过在一族高阶对象上进行学习，将任意高阶对象表示为固定大小的嵌入向量。编码器仅通过有限样本集观察对象，并将其映射为嵌入；领域专用的解码器则以该嵌入为条件对对象建模，从而提供训练信号。由于编码器仅依据样本工作，同一种架构即可适用于不同的对象类型。由于解码器本身就是适合对该类型对象的单个实例建模的模型，该框架继承了此模型原有的操作能力和归纳偏置。我们将该框架分别应用于分布、函数和图。在每种情况下，我们均表明，单个训练好的模型能够表示整个对象族，并泛化至训练期间未见过的成员。此外，我们展示了这些嵌入在下游任务中的用途：在嵌入空间中对分布进行插值、在嵌入空间中求解微分方程，以及根据图的嵌入预测未见过的边。