SAE 解释 MoE：稀疏自编码器揭示 MoE 专家呈现出人类可理解的细粒度专业化分工

arXiv:2611.08089v1 公告类型：新论文 摘要：混合专家（MoE）模型将每个词元路由至众多专家中的少数几个，但单个专家究竟负责什么，仍无定论。现有分析统计专家在带有领域标签的语料库中被选中的频率，这种方法预先固定了分类体系，粒度较粗，且记录的是选择情况而非实际贡献。我们转而通过在 MoE 层的输出上训练稀疏自编码器（SAE），在特征空间中研究专业化分工。由于该输出是各专家输出按路由器权重加权求和的结果，且 SAE 编码器是仿射映射，因此每个潜在变量的预激活值都能精确分解为各专家的贡献。在整个语料库上汇总后，可以为每个专家确定一组由其主导激活的潜在变量。在 Qwen3-30B-A3B 的第 4、30 和 46 层，贡献的集中程度远高于门控选择，大多数潜在变量仅由一两个专家主导，而各专家主导的潜在变量集合之间的重叠则集中在少数专家对上。对这些集合进行自动解释，揭示了粗粒度领域之下更细致的分工：例如，不同专家分别负责 Java 和前端网页代码，或分别负责几何与算术及多项式；与此同时，各粗粒度领域所占用的专家数量也极不均衡。我们的 SAE 和代码已发布于 https://github.com/Bytedance-Seed/SAE-Interprets-MoE。