通过信息瓶颈揭开无分类器引导的黑箱

arXiv:2610.13369v1 公告类型：新论文 摘要：无分类器引导（CFG）是改善扩散模型条件生成效果的标准技术，但其激活调度通常依靠启发式方法选定。在实践中，大多数现有的基于 CFG 的方法在整个推理过程中依赖预先定义的激活策略，而近期的动态变体往往依赖人工设计的调度方案，缺乏关于条件信息何时最有用的严谨理论解释。为理解条件输入与得分函数之间的信息相关性如何随生成过程演变，我们从信息论视角探讨应在何时激活引导。在本研究中，我们将扩散轨迹建模为随时间变化的信息瓶颈，并表明条件信息的有效性在整个采样过程中并不均匀，而是在由 Fisher 信息平衡条件刻画的临界阶段之后显著增强。受这一发现启发，我们提出了一种用于推理的免训练动态 CFG 策略。我们的方法并非预先指定固定调度，而是根据条件得分与无条件得分的统计量构建随机过程，并在估计的引导增益超过预设阈值时激活引导。由此得到的自适应激活规则使条件注入与底层生成动力学相匹配，同时也将基于区间的引导涵盖为一种极限特例。在多种架构和任务上开展的大量实验表明，我们的方法有效、稳健且具有广泛适用性。除实证改进外，我们的框架还为动态引导方法提供了解释，并为条件扩散模型的推理时控制奠定了严谨的理论基础。