MI-Distillation：从模型插值的指令-推理数据谱中选择，用于 Chain-of-Thought 蒸馏

大型推理模型（LRMs）的最新进展表明，通过长链式思维（Long CoT）推理，它们在复杂问题上表现出很强的性能。然而，将这类轨迹蒸馏到更小的学生模型中仍然具有挑战性：直接的 Long CoT 监督往往带来的收益有限，而且可能不如简洁的 Short CoT 理由有效。在这项工作中，我们从以梯度为中心的视角研究这一现象。我们的分析表明，与 Short CoT 相比，Long CoT 会产生更大的梯度幅度和更集中的更新方向，而且随着学生模型容量的增加，这种效应会更加明显。这些发现表明，有效的 Long CoT 蒸馏需要在推理轨迹的推理信息密度与其和学生模型的分布对齐之间取得平衡。受此启发，我们提出 \textbf{M}odel \textbf{I}nterporlation \textbf{Distillation}（\textbf{MI-Distillation}），一个通过模型插值构建连续 Instruct-Reasoning 数据谱的框架。为从该数据谱中选择合适的轨迹，我们进一步提出 \textbf{Seq}uential \textbf{L}earnable \textbf{S}urprisal \textbf{S}core（\textbf{SeqLSS}），它偏好对学生而言既信息丰富又可学习的推理路径。大量推理基准实验表明，MI-Distillation 能够在强大的 Long CoT 基线之上，一致地提升小模型的 CoT 蒸馏效果。