学习如何被引导：塑造用于无分类器引导的潜在几何

arXiv:2610.22885v1 公告类型：新 摘要：无分类器引导（CFG）是条件扩散模型的标准组成部分，而引导生成性能已成为衡量最先进模型的事实标准。近期关于潜在扩散模型的研究致力于学习更易于进行扩散建模的潜在空间。然而，在 CFG 下，生成效果还取决于条件在潜在空间中的排列方式。我们研究了离散类别条件下的这种排列，将其称为类别几何（class geometry），并探讨何种类别几何能够使潜在空间更好地适配 CFG。在高斯类别模型下，我们证明，在总方差固定的情况下，将方差从类内转移到类间，可以提高类别在噪声下的可区分性；此外，我们推导出一个带噪后验目标，其逐样本下降方向与 oracle CFG 修正成正比。基于这一分析，我们提出 Prototype Regularization（PR），这是一种针对难以处理的带噪后验目标的轻量级替代方法，通过对空间池化的潜变量应用余弦原型分类器来实现。在受控的训练预算下（VAE 训练 20 个 epoch，DiT 训练 80 个 epoch），将 PR 添加到 LDM 基线后，可将 ImageNet 上的引导 gFID 从 3.31 降至 2.28，超过与 DINOv3 对齐的 VA-VAE（2.44），且额外开销几乎可以忽略不计。我们进一步证明，PR 可以推广到由聚类得到的伪标签、连续文本嵌入条件以及视频潜变量。总体而言，我们的研究结果凸显了类别几何在引导生成中的关键作用，并朝着与 CFG 兼容的表示学习迈出了第一步。我们的项目页面位于：https://maps-research.github.io/cfg-geometry/。