arXiv cs.AI精选81

Agent Error Dataset:面向故障分析与错误感知后训练扩展至 50,000 个错误--诊断对

Agent Error Dataset: Scaling 50,000 Error--Diagnosis Pairs for Failure Analysis and Error-Aware Post-Training

· 13天前

精选理由

提供大规模智能体错误诊断数据,助力定位失败并提升纠错训练效果

AI 摘要

一次不成功的 LLM 智能体 rollout 所包含的信息多于最终奖励:智能体可获得的观察结果、它选择的行动,以及环境的响应。要将这段经历重新用于学习,需要识别出一个需要修改的决策,并测试一个具体的替代方案。我们提出 Agent Error Dataset(AED),其中包含来自文本智能体系统的 33 个环境、19 个 harness 系列和 23 个策略模型中 9,961 个源任务的 50,228 个错误--诊断对。我们保留源轨迹和执行元数据,以支持跨设置的故障分析与重新诊断,而无需重复原始 rollout。我们的五阶段 Agentic Error-to-Training(AET)流程收集自然产生的失败,生成诊断结果和拟议的修正方案,并根据记录的证据对其进行检查。在支持重放的情况下,我们在匹配的执行设置下,从同一检查点开始,将修正方案与原始行动重试进行比较。随后,我们分别构建用于诊断和智能体恢复的训练视图。在 3,062 对匹配的重放样本中,首次提出的修正方案将验证器通过率从 18.4% 提升至 51.1%,提高了 32.7 个百分点。使用单独冻结的诊断版本进行训练时,在 1,656 个源任务上进行完整诊断微调,使 Qwen3-8B 与内部教师标签的逐步精确一致率从 47.2% 提升至 63.6%;该结果是在 943 个案例的留出集上,以三个随机种子的结果取平均得到的。本次比较中最强的提示式参考方法得分为 54.7%,且随着训练集规模从小到大增加四档,平均一致率均有所提升。在对智能体训练方案进行的单随机种子比较中,行动专属修复训练在 WebShop-lite 上的得分比仅成功训练高出 6.67 个百分点。

查看原文(arXiv cs.AI)