arXiv cs.AI精选75

StepBack:通过步骤级错误定位重采样实现高效测试时推理

StepBack: Step-Level Error-Localized Resampling for Efficient Test-Time Reasoning

· 12小时前

精选理由

通过定位推理链中的疑似错误步骤并局部重采样,在保持准确率的同时最多减少 41% 的 token 消耗。

AI 摘要

自一致性(SC)是一种广泛用于改进思维链推理的解码策略,但它需要在预设预算下采样大量完整的推理轨迹。其高效变体主要通过提前停止完整轨迹采样,或在不同问题之间分配采样数量来降低成本。本文提出 StepBack,一种用于高效测试时推理的步骤级错误定位重采样方法。给定少量草稿轨迹,StepBack 利用轻量级信号定位可能的首个错误位置,随后对检测到的错误步骤及其后续部分重新采样,最后通过多数投票确定答案。实验表明,在七个数学推理和多跳问答基准上,StepBack 的平均准确率与 SC 相当,同时将 token 用量最多减少 41.26%。此外,StepBack 本身可与 Adaptive Consistency 等自适应推理方法结合,进一步提升这些方法在推理时的效率。

查看原文(arXiv cs.AI)