SWE-Prime：更少轨迹，更佳性能

为提升大型语言模型解决现实世界软件问题的能力，先前工作主要集中于构建大规模智能体轨迹数据集，并对成功轨迹进行监督微调（SFT）。然而，任务成功并不保证高质量监督：成功轨迹仍可能包含低效、冗余或有风险的步骤。直接使用此类轨迹进行 SFT 可能引入噪声监督，并促使模型模仿不良的问题解决行为。因此，我们提出 SWE-Prime，这是一种多粒度、两阶段的 SFT 数据选择方法，可在轨迹和片段层面逐步筛选训练数据。具体而言，第一阶段基于过程质量、结果质量和数据代表性进行轨迹级筛选，选择一个高质量且具有代表性的成功轨迹子集。第二阶段通过将连续步骤分组成语义片段，并根据每个片段对最终解决方案的贡献、可学习性以及潜在风险进行评估，来执行片段级选择。在 SFT 期间，所有片段都保留在序列中以保持上下文，而只有被选中的片段参与损失计算。在 SWE-Bench Pro 和 SWE-Bench Verified 上的实验表明，使用 SWE-Prime 选出的 10% 轨迹子集进行训练，优于使用完整已解决数据集进行训练，分别带来最高 12.2% 和 24.2% 的相对性能提升。