没有免费的循环：何时对已训练模型进行循环才值得付出推理计算成本？

arXiv:2610.42030v1 公告类型：新论文 摘要：循环是指重复应用一组网络层，使每个 token 多次通过这组层。为已训练的模型添加循环很有吸引力，因为这不会改变参数量，因而也不会改变磁盘占用、内存占用和训练成本。遗憾的是，每个生成的 token 都要承担循环带来的计算开销。重复应用 N 层中的 m 层，会使每个 token 的计算成本增至原来的约 (N+m)/N 倍。模型在大规模预训练期间学到的循环值得付出这一代价，但在预训练后添加的循环是否值得付出这一成本，目前仍不清楚。我们将循环模型与两个简单的基线进行比较。首先，将其与采用相同训练方式但不添加循环的同一模型进行比较（参数量相同）。其次，将其与在相同推理浮点运算次数预算下表现最佳的无循环方案进行比较（FLOPs 相同）。在参数量从 0.8B 到 9B 的 Qwen3 和 Qwen3.5 模型中，只有 0.8B 循环模型优于这两个基线。在 4B 和 9B 规模下，循环模型未能超过第一个基线，即不添加循环进行训练的同一模型。这并非因为基准测试过于简单，因为在相同基准测试中，无循环的 9B 模型得分仍比 4B 模型高出最多 13 分，表明性能仍有充足的提升空间。因此，在已完成预训练的模型中引入循环，仅对参数预算固定的小模型而言才划算。