arXiv cs.AI精选80

DeFA:面向 LLM Agents 的依赖引导式失败归因

DeFA: Dependency-Guided Failure Attribution for LLM Agents

· 13天前

精选理由

帮助定位智能体失败的关键步骤与责任来源,并据此改进后续任务表现

AI 摘要

LLM Agents 执行中的错误及其可见后果之间可能相隔许多步骤,因此,确定性错误定位需要同时理解步骤内容和步骤依赖关系。我们提出 DeFA,一种依赖引导式智能体失败归因框架。DeFA 首先将协议关系和语义依赖结合起来,构建一个覆盖整个轨迹的事件依赖图。随后,它识别可能违反任务要求的事件,并追溯这些事件的来源及其后续影响,从而构建失败传播图。最后,DeFA 利用步骤证据及各步骤在失败传播中的作用,识别决定性错误、责任智能体和错误类别。为支持长轨迹,DeFA 将执行过程划分为多个片段,并将当前片段的详细内容与其他片段的摘要相结合,使局部诊断能够访问全局执行上下文。在 Who and When 以及 Who and When Pro 文本子集上,DeFA 在所有评估的骨干模型上都取得了最高的责任智能体识别准确率和步骤精确准确率,并在 Pro 上的分类体系一致方法中取得了最高的失败模式准确率。针对图像和视频轨迹的进一步实验表明,DeFA 适用于多模态失败归因。消融实验验证了分段、事件依赖图和失败传播图的作用。将 DeFA 的诊断反馈用于 Trace2Skill 的技能演进后,相较于原生流程,下游任务准确率提高了 6–15 个百分点,表明这些诊断结果还可以支持智能体在后续任务中的改进。

查看原文(arXiv cs.AI)