MetaCurate：演进高质量智能体编程数据的筛选器

arXiv:2610.23134v1 公告类型：新 摘要：在智能体轨迹上进行监督微调是改进编程智能体的有效方法，但选择有用的训练样本所需的不仅仅是识别成功运行。一个已解决的补丁可能遵循了低效的推理过程或进行了不必要的工具调用，而一次失败的运行仍可能包含有用的中间步骤。因此，训练流程依赖规则和定性评估来筛选轨迹，但设计这些筛选器通常需要大量人类专业知识，而通过反复训练和评估来验证改进的成本很高。我们提出 MetaCurate，这是一个无需训练的框架，通过成对 LLM 判断来演进可执行的轨迹筛选器。筛选器排序与评判者偏好之间的分歧，为联合修订其规则、评估标准和聚合策略提供有针对性的反馈。最终得到的筛选器能够独立地为轨迹评分，因此仅在搜索过程中需要进行成对比较。从一个空白筛选器开始，MetaCurate 可以自主发现一种筛选策略，在不依赖针对特定任务手写标准的情况下，实现具有竞争力的下游性能。我们在未经筛选的轨迹池和 Nemotron v3 SWE 数据集上，通过受控的 SFT 实验验证了其下游效用，并以随机选择和人工编写的筛选方法作为基线。在我们的实验中，在所比较的方法中，MetaCurate 获得了最高的平均 SWE-Verified 分数，其中包括人工编写的基于规则的筛选方法，以及搜索成本高出 3.5 倍的训练循环基线。