基于 Transformer 的扩散模型上下文得分算子学习

arXiv:2610.13690v1 公告类型：新论文 摘要：扩散模型通常学习单个目标分布的生成动力学，或学习由训练期间固定的条件变量索引的一族分布的生成动力学。这限制了它们仅凭少量示例适应此前未见分布的能力。我们提出了一种面向扩散模型的上下文解算子学习框架，其中每个目标分布都被视为从元分布中抽取的一个任务，并在推理时由一个经验上下文集指定。我们的方法学习一个上下文得分算子，将上下文样本、含噪查询点和扩散时间映射为任务相关的得分，从而无需重新训练或更新参数，即可在未见任务上进行反向扩散采样。一个关键发现是，任务相关得分具有高斯核条件均值表示。其经验 Nadaraya--Watson 近似可以由我们构建的 Transformer 类中的模型精确表示，为所提出的查询相关注意力架构提供了理论依据。该算子通过跨任务分布的摊销去噪得分匹配进行训练。我们建立了泛化误差界，量化了上下文大小、训练任务数量、任务内样本数量、模型复杂度以及内在维度和环境维度的影响。在数值实验中，我们在一系列科学与视觉数据集上评估了该方法，包括 Navier-Stokes、ERA5 气候数据、QuickDraw 草图和 Food-101。结果表明，所提出的方法在相对简单的任务族上表现良好，但其性能会随着任务复杂度的增加而下降，从而揭示了扩散模型上下文学习的潜力与局限。