是什么驱动了视觉生成模型中的组合泛化？连续训练目标的重要性

arXiv:2510.03075v4 公告类型：replace-cross 摘要：组合泛化，即生成已知概念的新颖组合的能力，是视觉生成模型的关键要素。然而，并非所有能够促进或抑制组合泛化的机制都已得到充分理解。在本工作中，我们系统研究了哪些设计选择会关键性地决定图像和视频生成中的组合泛化。通过分离彼此独立的设计维度，我们确定了两个与组合成功密切相关的关键因素：(i) 训练目标作用于离散分布还是连续分布；(ii) 训练过程中关于构成因素的条件信息是否完整。我们还表明，通过引入辅助的连续潜变量目标来放宽离散损失，可以部分恢复 MaskGIT 等离散模型的组合性能。我们的发现得到了多种组合任务以及世界模型和 LLMs 中初步证据的支持，促使人们转向采用连续目标来实现组合泛化。