arXiv cs.LG精选78

Normalizing Flow Maps

Normalizing Flow Maps

· 2小时前

精选理由

兼顾少步生成与精确似然评估,为高质量生成和分子采样提供新方法。

AI 摘要

arXiv:2610.22711v1 公告类型:新论文 摘要:可扩展的神经动力系统学习方法,使扩散模型、流匹配和少步生成器中的流映射成为生成建模的前沿。这些最先进的模型虽然源自利用可处理似然的经典生成建模方法(例如 Normalizing Flows 和 Autoregressive models),但对显式模型密度的获取仍然有限。本文将少步生成与可处理的样本似然这两条研究脉络结合起来,提出 Normalizing Flow Maps(NFM):一种完全可逆的推前映射,其泛化了归一化流和流映射。更具体地说,NFM 学习底层动力系统的积分器,但关键在于,它从构造上实现了高效且精确的似然评估。为实现 NFM 的可扩展训练,我们推导出 NFM 固有的两个互补一致性维度,并据此得到(自)蒸馏目标:(1) 点匹配,从而可以使用基于 $\ell_2$ 的流映射式回归损失;(2) 分布匹配,使推前分布与预先指定的正向过程的边缘分布相匹配。在 CIFAR-10 和 ImageNet-64 上的条件图像生成任务中,在参数量相当的归一化流模型中,NFM 实现了最先进的样本质量,同时支持基于似然的 RLHF。在 Boltzmann Generators 的平衡采样任务中,NFM 在单系统和可迁移肽基准测试上均优于此前最先进的归一化流模型。

查看原文(arXiv cs.LG)