arXiv cs.LG精选74

通过正例-未标记学习实现扩散模型的渐近精确负向引导

Asymptotically Exact Negative Guidance of Diffusion Models via Positive-Unlabeled Learning

· 1小时前

精选理由

将负向引导转化为明确目标分布采样,并以正例-未标注学习和序贯蒙特卡洛实现渐近精确避让。

AI 摘要

arXiv:2610.19802v1 公告类型:新论文 摘要:扩散模型的负向引导旨在生成避开不期望条件的样本,该条件可通过参考样本指定,也可通过与无条件模型配合使用的条件得分指定。现有方法在每个样本处注入由局部信息推导出的排斥项,因此所得采样器并不以显式密度为目标,其偏差也无法通过增加计算量来系统性地降低。我们提出了一种从显式目标密度中采样的负向引导方法,统一处理基于参考样本和基于得分的两种条件指定方式,并通过直接参数化目标密度的规避强度,抑制不期望条件附近的概率质量。实现这一目标需要在每个扩散时间步估计各样本属于不期望条件的可能性。我们将这一估计表述为正例-未标记学习问题,以符合该条件的样本作为正例,以扩散粒子作为未标记数据,从而能够沿扩散轨迹进行轻量级在线训练。由于引导后的粒子会偏离无条件边缘分布,我们进一步通过序贯蒙特卡洛校正残余失配,得到一种在粒子数趋于无穷时渐近精确的采样器,并可将任何现有负向引导方法用作其提议核。实验表明,我们的方法在高斯混合分布上逼近真实目标分布,并且在规避效果与生成质量、分布偏差及多样性之间的权衡上帕累托支配现有方法,这一优势也体现在使用预训练得分网络的图像生成场景中。

查看原文(arXiv cs.LG)