截断扩散采样器必须保留多少个方向?幂律谱下的匹配界
How Many Directions Must a Truncated Diffusion Sampler Retain? Matching Bounds Under Power-Law Spectra
精选理由
揭示扩散采样应按谱尾累积误差选方向,避免弱信号叠加造成失真。
AI 摘要
arXiv:2610.10640v1 公告类型:cross 摘要:扩散采样器可以通过生成选定的谱坐标,并用噪声填充其余方向来降低计算量。那么,它们必须保留多少个方向?我们针对具有幂律协方差谱的数据研究了这一问题。对于与平滑目标进行比较的高斯数据,只要环境维度足够大,我们就证明了所需保留方向数的匹配上下界。截断误差取决于被省略方向的维纳增益之和,而与采样器在保留坐标上的精度无关。因此,仅保留信号强度超过输出噪声水平的方向,仍可能导致不可消失的误差:许多单独来看较弱的方向,汇总起来仍然具有重要影响。将这一刻画与扩散收敛界相结合,可以在得分函数精确时得到充分的采样步数复杂度。上界还可推广到估计得到的主成分,并且逐分量地推广到高斯混合。实际操作上,应使用聚合的谱尾部误差预算来选择保留子空间,然后据此选择扩散噪声水平。