统一面向单步视觉生成的分布训练
Unifying Distributional Training for One-Step Visual Generation
精选理由
统一分布训练理论并提出 MGFlow,提升一步图像生成质量,助力模型以更少步骤生成高质量图像。
AI 摘要
arXiv:2609.35763v3 公告类型:替换 摘要:分布训练通过在冻结的表征空间中匹配真实特征与生成特征,为单步视觉生成提供整体监督。我们提出了一个统一的理论框架,将分布建模与匹配差异度量分离,并通过 Wasserstein 梯度流将全局目标与逐点特征更新联系起来。在该框架下,FD-Loss 和采用高斯核的 Drifting 分别可通过高斯最优传输和基于核密度的 KL 匹配推导得到。受该框架启发,我们提出 MGFlow,使用高斯混合对特征分布建模,其粒度可在全局矩与基于样本的表征之间调节。MGFlow 同时支持最优传输匹配和基于得分的匹配,并将带质量约束的样本分配与成对分量更新相结合,以解决仅靠混合模型的表达能力无法消除的模式坍塌问题。在 ImageNet $256\times256$ 上,MGFlow 显著超越 FD-Loss 基线,在 pMF-H 上取得 1.45 $\mathrm{FDr}^6$、在 JiT-H 上取得 1.64 的当前最优结果。在文本到图像生成方面,MGFlow 通过后训练将 FLUX.2 [klein] 4B 转化为单步生成器,在 GenEval 和 PickScore 上均优于原始四步模型。