通过计算分离理解支架的益处

arXiv:2610.27157v1 公告类型：新 摘要：推理时工具框架，即在多次调用模型并在调用之间保持状态的外部过程，可以显著提升模型能力。本文研究了使用此类工具框架的益处，以及这些益处在多大程度上能够通过训练内化。更具体地说，我们将工具框架 $\mathcal{A}$ 概念化为基础模型 $M$ 外部的任意封装器，并尝试根据工具框架的调用轨迹蒸馏出一个学生模型。通过实证研究我们发现，即使使用简单的支架和小型模型，推理时工具框架的表现也显著优于蒸馏得到的学生模型。随后我们证明，这种差距源于根本性的表征局限：即使逐次调用的原语只是一个简单的 $\AC^0$ 查找，推理时工具框架仍能计算出该原语的一个 $\NL$-完全闭包；并且在广泛认可的猜想 $\NL\not\subseteq\TC^0$ 成立的前提下，任何固定深度的前向传播都无法表示这一闭包。我们的理论表明，相对于所处理的任务，扩大学生模型的表征能力是弥合这一差距的必要条件，例如增大模型规模、降低任务难度或延长其思维链；我们通过实证研究验证了这一点。最后，我们将实验扩展到用于竞赛数学的智能体工具框架，其中同样的差距再次出现。总体而言，我们的结果表明，工具框架赋予基础模型一种深刻的表征能力提升，而在相同模型类别上使用其调用轨迹训练学生模型，无法将这种提升迁移回模型权重中。