arXiv cs.LG精选75

FlowBudget:面向流匹配模型的无需训练的采样预算估计

FlowBudget: Training-Free Sampling-Budget Estimation for Flow Matching Models

· 1小时前

精选理由

无需反复生成样本或FID扫参,即可估算流匹配模型采样步数,降低推理成本。

AI 摘要

arXiv:2610.20636v1 发布类型:新 摘要:从连续流生成器(如流匹配模型)中进行采样需要数值积分 ODE 或 SDE,因此推理成本取决于函数评估次数(NFE)。在实践中,采样预算通常沿用先前工作的设置,或通过代价高昂的 FID-相对于-NFE 扫描来选择,其中使用 FID 评估图像生成质量,这要求在多个预算下生成样本并进行评估。这使得采样预算的选择依赖于重复的经验评估。因此,除了求解器设计和时间步分配之外,我们提出一个互补问题:对于固定的预训练模型和求解器,什么样的数值分辨率才足够?我们引入 FLOWBUDGET,这是一种无需训练的、相对于求解器的采样复杂度估计器。FLOWBUDGET 利用对学习到的动力学进行无需模拟的插值探测,以运动量对主导的一步离散化误差进行归一化,从插值探测中估计其系数,并利用求解器阶数将数值容差映射为步数预算。我们针对流匹配采样中的数值求解器推导了相应的估计器,即用于 ODE 采样的 Euler 和 Heun,以及用于 SDE 采样的加性噪声 Euler--Maruyama,并将 ODE 系数与终端积分误差联系起来。在 SiT、FlowDCN 和 Rectified Flow 模型上进行实验,覆盖不同的流模型架构和形式,以检验 FLOWBUDGET 能否在无需针对多个预算生成样本、也无需进行 FID-相对于-NFE 扫描的情况下估计 NFE 预算。代码可在 https://github.com/Yasaman-dt/FlowBudget 获取

查看原文(arXiv cs.LG)