arXiv cs.AI精选82

CodeMidas:从代码本身扩展智能体式编码 RL 环境

CodeMidas: Scaling Agentic Coding RL Environments from Code Itself

· 25天前

精选理由

仅凭源代码即可规模化构建编码智能体强化学习任务,显著提升多类编程能力。

AI 摘要

通过强化学习(RL)训练高能力编码智能体需要多样化的任务和可靠的验证器。开源代码库提供了丰富的此类任务来源,而现有方法通常依赖 issue 和 commit 等开发产物,这限制了可提取任务的范围。为了更好地扩展 RL 环境,我们提出了 CodeMidas,这是一条智能体式流水线,仅以源代码作为特定于任务的输入,将现有代码库中已实现的功能转化为可执行的 RL 环境。CodeMidas 在环境构建的每个阶段都分配智能体计算资源:智能体探索已实现的功能以制定行为规范,构建基于原始代码执行结果的测试,并通过执行检查和反复运行解决方案来验证和筛选候选任务。最终数据集包含 5,545 个训练任务,来自 3,185 个开源代码库,涵盖 23 种编程语言和 15 个技术领域。在这些任务上使用 GRPO 训练 MiMo-V2.5,可提升其在全部五个多样化基准测试上的表现,覆盖 issue 修复(DeepSWE + 11.7%)、完整程序构建(ProgramBench +17%)和终端操作(Terminal-Bench v2.1 +8.5%)。消融实验表明,增加高质量训练任务的数量能够提升性能。轨迹分析显示,经过 RL 训练的智能体表现出更优的行为,例如加强对代码库的探索以及进行更多样化的自我验证。这些结果表明,源代码可以作为构建 RL 环境的可扩展基础,从而提升编码智能体在多种软件任务上的能力。

查看原文(arXiv cs.AI)