学习 GFlowNets 的混合模型

arXiv:2610.07562v1 公告类型：新 摘要：学习一组 GFlowNets，以从离散目标分布中进行采样，已经成为实现比单体采样器更好的状态空间探索和收敛效果的常用方法。然而，这些方法通常会给基础模型带来显著的运行时开销，而且它们之间的概念联系仍不明确。为此，我们首先提出了一个用于描述 GFlowNets 混合模型的通用理论框架，并将其具体化为连续索引（CI）和离散索引（DI）集合。一方面，我们表明，CI GFlowNets 可以通过随机特征展开的视角进行解释；在图结构任务中，这种展开经证明能够提升采样器的表达能力，并通过谱移位降低学习不稳定性。另一方面，我们证明，DI GFlowNets 涵盖了以往用于训练 GFlowNet 的方法，并为新提出的分层条件（SC）GFlowNets 奠定了基础。该方法受到马尔可夫链的 Doob's h-transform 启发，根据预先指定的模函数分解状态空间，并限制每个组件仅从其中一个不同的子集进行采样。重要的是，SC GFlowNets 支持集中式训练和组件级的易并行训练；我们表明，这两种训练方式都能显著加快学习收敛和模式覆盖，同时不会引入任何不可忽略的额外计算开销。