arXiv cs.LG精选74

SWE-VERIFIER:面向高成本效益编程智能体的选择性验证

SWE-VERIFIER: Selective Verification for Cost-Efficient Coding Agents

· 1小时前

精选理由

通过仅验证少数关键步骤,提升编程智能体的问题解决率,同时显著降低推理开销。

AI 摘要

arXiv:2610.30284v1 公告类型:新提交 摘要:编程智能体在生成动作和处理冗长的交互历史时会消耗大量计算资源。不佳的动作选择可能将智能体引向低价值状态,浪费计算资源并增加 API 成本。对备选动作进行采样和验证可以改善智能体的决策,但在每一步都执行这一流程会带来显著的额外开销。我们提出 SWE-Verifier,这是一种轻量级生成模型,可选择性地触发候选动作采样与验证。它对编程智能体提出的动作进行评分,以判断何时需要额外采样候选动作,然后在执行前对得到的动作进行排序。我们基于 Qwen3.5-4B,使用偏好数据训练 SWE-Verifier;这些数据将具有对比性的动作、动作产生的环境观测以及按评分准则给出的教师评分组织在一起。在 mini-swe-agent 框架下,SWE-Verifier 以 1.09 倍的成本,将 MiniMax-M2.7 的解决率从 75.47% 提升至 77.20%;在未使用 DeepSeek-V4-Flash 的动作进行训练的情况下,它也能泛化至该模型,以 1.13 倍的成本将解决率从 72.60% 提升至 74.27%。在这两个模型上,SWE-Verifier 验证的步骤均少于总步骤的 4%,并且以显著更低的成本,达到与轨迹基线和全步骤基线相当或更高的解决率。这些结果表明,选择性候选动作采样与轻量级验证能够在编程智能体性能和推理效率方面带来互补增益。我们的模型、代码和数据已发布于 https://github.com/zkjzou/SWE-Verifier。

查看原文(arXiv cs.LG)