面向流映射蒸馏的几何感知时间重参数化

arXiv:2610.02427v1 公告类型：新 摘要：流映射蒸馏通过学习预训练生成 ODE 的有限时间转移，实现一步和少步生成。我们研究改变教师模型的时间参数化是否能使这些转移更易于学习。基于这样一个假设：具有较大法向加速度的轨迹片段更难蒸馏，我们提出了一种几何感知的时间重参数化方法，在保持教师模型几何路径和终端分布不变的同时，为这些区域分配更多学生时间。我们在适当假设下推导出一种共享时钟，使总体法向加速度统计量达到均衡，并利用从教师模型轨迹中获得的稳健正则化估计构造出一种实用近似。我们将这一时钟引入拉格朗日流映射蒸馏，并使用变换后的时间坐标对学生模型进行条件控制。该时钟在蒸馏前仅需估计一次，既不需要重新训练教师模型，也不需要增加学生模型参数或推理时的网络评估次数。在合成数据、CIFAR-10 和 CelebA-64 上的实验表明，在推理预算相同的情况下，与恒等时间蒸馏相比，该方法能够提升样本质量，包括改善一步和两步图像生成效果。在一步生成中，由于无法调整任何中间采样时间，所取得的性能提升进一步凸显了蒸馏过程中时间重参数化的优势。