arXiv cs.AI精选80

SWE-Critix:通过后训练构建评估编程智能体轨迹的通用验证器

SWE-Critix: Post-Training Generalist Verifiers for Assessing Coding-Agent Trajectories

· 4天前

精选理由

提出经监督微调与强化学习训练的通用验证器,可判断编码智能体任务是否完成并解释依据,提升长程轨迹评估准确率。

AI 摘要

编程智能体正日益被部署用于端到端软件工程任务,而这类任务往往缺乏可直接使用、能够界定成功标准的预言式评估器。因此,有必要为编程智能体构建能够可靠判断并解释其行为的验证机制。然而,随着编程智能体解决长时程软件工程任务的能力不断增强,验证也变得颇具挑战。其执行轨迹可能极其冗长,包含与代码仓库和外部工具的数百次迭代交互。现有验证器要么依赖未经专门训练的通用大语言模型,要么训练主要侧重于生成标量奖励的专用评判器,这表明基于训练的通用验证方法仍未得到充分探索。我们提出 SWE-Critix,这是一个用于训练编程智能体轨迹通用验证器的后训练流程。给定任务及其执行轨迹,训练得到的验证器会预测任务完成标签,并生成自然语言分析来解释其判断。我们的流程将监督微调(SFT)与强化学习(RL)相结合,使用来自 CodeForge-Preview 的轨迹训练了一系列 300 亿参数模型。在预留测试集上,SWE-Critix 将基础推理模型 Qwen3-30B-A3B 的分类准确率从 57% 提升至 SFT 后的 66%,并在 RL 后进一步提升至 78%。我们公开了模型、数据集和训练代码,以促进后续研究。

查看原文(arXiv cs.AI)