arXiv cs.AI精选71

面向单步生成建模的离散 Wasserstein 流

Discrete Wasserstein Flows for One-Step Generative Modeling

· 12天前

精选理由

为离散数据提供可验证的一步生成建模新框架

AI 摘要

我们提出了一个用于有限状态空间单步生成建模的新框架。为将 Discrete Drifting 从连续域扩展出去,我们利用离散 Wasserstein 几何,在可逆 Markov 核的转移上定义相对于目标分布的 KL 梯度流。我们通过 Markov 跳跃在粒子层面实现这一概率流,并将由此产生的传输更新摊销到一个以潜变量为条件的生成器中,从而只需在训练期间执行迭代动力学,而推理阶段仍保持单步生成。在一个能够精确计算底层分布和传输动力学的受控设置中,我们验证了 KL 耗散性、粒子动力学与概率流之间的一致性,以及所预测的数值缩放规律。我们进一步表明,有限容量的神经生成器能够跟踪这些精确的传输目标,同时保留单步生成能力。这些结果验证了该基本构造,并为将 Discrete Drifting 扩展到结构化离散数据奠定了基础。

查看原文(arXiv cs.AI)