arXiv cs.AI精选83

RLVR中没有免费的午餐:每一次 pass@1 增益都要付出 pass@k 代价

There Is No Free Lunch in RLVR: Every pass@1 Gain Has a pass@k Price

· 1天前

精选理由

揭示并量化RLVR提升首答正确率与多次采样性能之间的必然权衡,指导训练与评测。

AI 摘要

带有可验证奖励的强化学习(RLVR)让语言模型首次尝试时解决更多问题,却在获得多次尝试机会时解决更少问题:它提升了 pass@1,而在较大采样预算 k 下,基础模型会反超它。这究竟是强化学习未能增加推理能力的失败,还是一种会随着更多训练而消失的暂态现象?我们用一个定理解决了这一问题。这种反转是一种代价,而且我们计算出了它的精确速率。我们将 RLVR 建模为基础策略在跨提示共享的策略集合上的指数倾斜,并证明:在排他性专业化条件下,每一次提升 pass@1 的更新都会严格降低某个提示的成功率;提示上的严格正代价(Stiemke 对偶性)是其精确条件,而仅仅成为某个提示上的最佳策略,已被证明并不足够。当损失触及最难的提示时,它会迫使 pass@k 发生交叉;交叉次数至多等于各提示成功率变化的符号变差数,这是一个达到紧性的全正性界,并在保序情形下恢复已知的单交叉结果。交叉并不是需要修补的缺陷:受约束更新会描出精确的 pass@1 与 pass@k 前沿,而完全消除交叉则要付出全部 pass@1 增益。同一个倾斜恒等式还导出了熵坍缩以及带有可识别指数的熵—性能定律,从而通过同一机制统一了两类研究文献。强化学习无法拓宽推理前沿;它只能沿着前沿移动,而我们提供了一种诊断方法,可以从任意评估日志中读出该界、保序检验和代价,并将这一代价变得可测量。没有免费的午餐,只有代价。

查看原文(arXiv cs.AI)