推理的路由：解读与重塑 MoE 模型的测试时计算

推理模型将测试时计算分配给规划、推导和验证等不同的行为。然而，模型经常会“过度思考”，在找到正确答案后仍长时间持续验证和重新推导。这不仅浪费昂贵的计算资源，甚至可能降低性能。现有干预手段，如 token 预算或引导，主要调节推理时长，而非针对特定行为。在本研究中，我们证明，混合专家（MoE）路由器提供了一种自然且无需训练的行为控制接口。我们首先将推理轨迹切分为句子级片段，并为每个片段标注六种推理行为之一（规划、执行、重述、事实、反思和结论），使每个 token 都带有其所属片段的行为标签。在路由器 logits 上训练的线性探针，仅使用约一半数量的特征，就能达到与残差流上的探针几乎相当的标签预测效果；残差流是模型的完整隐藏状态，也是探测分析的标准目标。这些信号具有泛化能力：在涵盖五个领域（数学、代码、科学、知识和常识）的六个数据集中，与某一数据集上特定推理行为相关联的专家，也能预测其他数据集上的同类行为。在此基础上，我们在推理过程中选择性地修改专家路由器评分，以抑制过度思考。在四个模型和四项基准测试中，这种干预使生成的 token 数量降幅中位数达到 30.4%，最高降幅达到 63.3%。关键在于，它促使模型在问题解决后停止，而不是跳过必要的推理步骤。准确率下降从未超过 0.5 个百分点，而且经常有所提升。总而言之，MoE 路由既为理解推理状态提供了可解释的视角，也为优化测试时计算提供了轻量级机制。