面向单步生成建模的离散 Wasserstein 流
Discrete Wasserstein Flows for One-Step Generative Modeling
精选理由
为离散数据提供可验证的一步生成建模新框架
AI 摘要
我们提出了一个用于有限状态空间单步生成建模的新框架。为将 Discrete Drifting 从连续域扩展出去,我们利用离散 Wasserstein 几何,在可逆 Markov 核的转移上定义相对于目标分布的 KL 梯度流。我们通过 Markov 跳跃在粒子层面实现这一概率流,并将由此产生的传输更新摊销到一个以潜变量为条件的生成器中,从而只需在训练期间执行迭代动力学,而推理阶段仍保持单步生成。在一个能够精确计算底层分布和传输动力学的受控设置中,我们验证了 KL 耗散性、粒子动力学与概率流之间的一致性,以及所预测的数值缩放规律。我们进一步表明,有限容量的神经生成器能够跟踪这些精确的传输目标,同时保留单步生成能力。这些结果验证了该基本构造,并为将 Discrete Drifting 扩展到结构化离散数据奠定了基础。