DoubtLess：无需训练的高效推理对比解码

推理模型通过较长的思维链（CoT）取得强劲性能，但通常会使用超出解题所需的词元数量。现有的 CoT 缩短方法需要针对每个模型进行额外训练、向模型的隐藏状态添加固定的引导向量，或采用提前停止、禁止使用“wait”等词语的解码启发式方法，而这些方法可能会降低准确率。我们提出 DoubtLess，这是一种无需训练的解码方法，通过一个小得多的推理模型引导大型模型生成更简洁的内容。小模型会读取大型模型截至当前的 CoT 两次：一次被提示要简洁（简洁思考者），另一次被提示要详细（详细思考者）；然后将其两次 logit 向量之差乘以一个强度系数，并在 CoT 的每一步将结果加到大型模型的 logits 上。在涵盖竞赛数学、研究生水平科学和竞赛编程的七个基准测试中，DoubtLess 在准确率不变的情况下将 Qwen3-32B 的 CoT 缩短了 31%，优于五种推理时基线方法。我们还表明，在一个自调试编码智能体中，DoubtLess 在任务表现不变的情况下，将每轮思考词元数减少了 20%。在另外两个模型系列上，它同样实现了准确率不变的泛化效果。与基于训练的压缩方法结合后，它还能进一步缩短已经接受简洁性训练的模型的 CoT。消融实验和行为分析表明，DoubtLess 减少了重复检查，而大部分词元节省发生在 CoT 中首次出现正确答案之后。我们的代码可访问：https://github.com/leoluolol/DoubtLess。