我们是否把单步生成想得太复杂了？

arXiv:2610.20331v1 公告类型：新提交 摘要：扩散和流匹配如今已成为连续域生成建模的主流框架，但它们在推理时通常需要多次网络求值。这推动了大量主要基于扩散和流的单步生成建模研究，不过现有方法往往依赖复杂的训练机制。在本研究中，我们提出 Priming Models，这是一种用于训练单步生成器的简单两阶段框架。考虑到从零开始进行分布训练的困难，Priming Models 首先以重建目标进行训练，例如在固定噪声水平下进行像素空间去噪，然后再进行特征空间中的分布后训练。我们的核心科学发现是，仅这一简单的重建阶段就足以完全消除分布训练的困难。实证结果表明，在类别条件图像生成、文本到图像生成和世界建模任务中，Priming Models 显著推进了训练计算量与生成质量之间的帕累托前沿。在分辨率为 $256 \times 256$ 的 ImageNet 上，我们取得了单步生成器中最先进的 $1.19$ FID，而所用训练计算量约为此前具有相近 FID 的方法的十分之一。我们已在 https://github.com/JaeyeonKim01/priming 开源代码库。