Barron最优传输 I：生成建模

arXiv:2610.10875v1 公告类型：new 摘要：受生成建模和采样领域近期应用的启发，我们提出了一个最优测度传输框架，其中代价刻画神经网络的复杂度。在基于传输的生成模型中，参考分布（例如高斯分布）中的样本沿普通微分方程或随机微分方程映射为目标分布中的样本。这些过程在时间离散化后通过深度残差网络实现，其中每个隐藏层近似对应的瞬时速度。因此，给定一对目标测度和参考测度，一个自然的问题是寻找实现这一传输的最高效神经表示。我们的出发点是 Benamou 和 Brenier 提出的最优传输动力学表述。我们以 Barron 能量替代平均动力学 $L^2$ 能量；Barron 能量是一种自然范数，用于衡量通过神经隐藏层表示给定向量场的复杂度，并能够刻画特征学习的自适应特性。这一定义在概率测度空间上引入了一个度量，补充了现有的 Wasserstein 几何和 Stein 几何。在本文中，我们研究这一度量在生成建模背景下的性质。作为第一个应用，我们通过为由高斯分布经神经网络推前生成的数据建立超多项式的得分函数逼近下界，量化扩散生成建模在 Barron 几何中的次优性。随后，我们研究自适应性作为考察替代生成模型的一种方式所带来的益处。在配套论文 \cite{companionpaper} 中，我们利用 Barron 传输几何开展采样应用，通过特征自适应扩展 Stein 变分梯度方法的适用范围。