扩散模型的端到端学习引导调度
Learned End-to-End Guidance Schedules for Diffusion Models
精选理由
学习端到端引导调度,显著减少扩散模型采样步数并兼顾生成质量与约束满足。
AI 摘要
arXiv:2610.01502v1 公告类型:新 摘要:扩散模型是一种强大的生成范式,广泛应用于多媒体和科学领域。引导扩散方法在推理过程中将可微损失(引导函数)的梯度作为漂移项加入,从而对生成施加约束。该漂移项的权重(引导尺度)对于平衡数据质量与约束满足程度至关重要。为了同时实现这两个目标,引导扩散必须采用较小的引导尺度和较长的采样过程,从而产生较高的计算成本。本文提出学习式端到端引导调度(LEEGS),以更少的采样步数实现这些目标。LEEGS通过随机梯度下降,在少量样本上最小化引导函数,从而学习一个依赖时间的调度方案。由于对引导采样进行反向传播的计算成本很高,LEEGS采用梯度近似,将训练时间缩短了4倍。我们在多种引导任务上评估了LEEGS,包括:(a)图像修复;(b)含噪图像逆问题;(c)人脸ID引导的生成;(d)正向和逆向PDE问题。在相同预算(50或100个NFEs)下,LEEGS的表现优于基线方法;或者仅使用10%的步数,就能达到恒定引导的效果。