打破均匀性陷阱：通过 SplitMoE 扩展视频扩散模型

专家混合（MoE）因大型语言模型而广为人知，是扩展视觉生成模型的一种有前景的范式。然而，传统的逐 token MoE 会在同质专家池中独立地路由各个 token，并通过正则化促使专家使用趋于均匀，因此难以适配具有时空冗余和语义长尾特征的视频数据。我们发现，现有视觉 MoE 陷入了均匀性陷阱：语义组织不足的路由，加之对专家均匀使用的正则化，使具有连贯语义的图像块被分散到不同专家中，导致路由碎片化和结构失真。为此，我们提出 SplitMoE，这是一种打破均匀性束缚的分工式稀疏架构。为适应固有的语义不平衡，我们将专家池明确划分为语义专家和通用专家：语义专家负责捕捉高层语义抽象，通用专家则保留残余视觉信息和灵活的生成能力。借助原型引导路由和拉推正则化，SplitMoE 使 token 能够依据语义属性自然聚类，而非受任意的均衡约束支配。大量实验结果表明，在激活参数预算相当的情况下，SplitMoE 在标准基准上的收敛速度、路由连贯性和视频生成质量均优于传统的负载均衡 MoE。通过揭示一种涌现的由粗到细的去噪逻辑，SplitMoE 为社区提供了一条模态感知的扩展路径，可作为构建大规模视频世界模型的重要参考。