分解税：LLM 流水线在自身接口处损失高达 40 个准确率百分点

一个四阶段 LLM 流水线在自身接口处损失了多达 40.5 个准确率百分点（MATH-500 上的 gemma-3-12B，Holm 校正后 p = 1.66e-19；这是主要系列中最大的税）。我们固定模型、问题、阶段、阶段提示和生成预算，仅改变每个阶段是否仍能看到原始问题，并将准确率差异称为分解税。在来自九个组织的 21 个开源权重模型上，在 GSM-Hard 和 MATH-500 中每个单元 n = 200 个配对项目的设置下，118 个主要系列测试中有 70 个通过 Benjamini-Hochberg 校正，54 个通过 Holm 校正。在 GSM-Hard 上，安慰剂没有恢复任何东西：它携带至少 60% 的额外 token，且至多包含问题中的一个词。构建者逐阶段设计流水线，而账单则在阶段之间的接口处到来。重写某一阶段的指令会使 gemma-3-12B 的税从 4.5 个点变为 36.5 个点；在一个列出数值量的阶段中加入“它们之间陈述的每一种关系”，会在 MATH-500 上使 9 个模型中的 9 个都降低该税。重新扎根，即让某一阶段再次看到原始问题，应该放在损失之后。对于一个有损接口，在两个基准上，7 个模型中的 7 个都显示：对其后的阶段进行重新扎根，优于对其前的阶段进行重新扎根；在 MATH-500 上，较早的修复在 7 个模型中的 7 个上甚至比不修复更差。较新的模型仍然要付出代价：gemma-4-12B 损失 37.0 个点，而且这种修复在我们测试的三个最新模型上都有效。一个封存的留出测试驳斥了我们注册的一个更强规则，该规则根据接口和接收者类型预测付出代价的阶段，因此我们通过逐个阶段测量来定位该税。处方分为两部分：对有损接口之后的阶段进行重新扎根；如果某个阶段必须列出数量，就告诉它保留各种关系。