修复还是重采样?重新思考 LLM 多智能体系统中的故障调试
Repair or Resample? Rethinking Failure Debugging in LLM Multi-Agent Systems
精选理由
揭示多智能体修复盲目重跑不可靠,提供可复现的调试评估框架。
AI 摘要
随着基于大语言模型(LLM)的多智能体系统(MASs)越来越多地应用于长周期复杂任务,其可靠性已成为阻碍其实际部署的核心瓶颈。现有的 MAS 调试和修复方法通常依赖于对整个执行轨迹进行重新运行和重采样。然而,一个根本性问题仍有待回答:这些方法究竟是在因果上修复 MAS 故障,还是仅仅借助 LLM 采样的随机性进行概率性修复?为评估 MAS 修复方法的有效性,我们引入了 SymTrace,一个受控评估框架,它记录 MAS 的执行轨迹并建立干预锚点。在回放过程中,它利用记录的日志有效重建锚点之前的执行,并且只重新生成下游轨迹,从而能够可靠地复现 MAS 故障。我们进一步构建了数据集 SymFail,其中包含 536 条经人工标注的故障轨迹,附带图关联的位置、类别和轨迹证据。基于这些基础,我们在三个主流 MAS 框架上开展了大规模实证研究。结果表明,现有无引导的重新运行方法极不可靠,其故障复现率和修复率都很低(分别仅为 67.97% 和 6.90%)。在此基础上,我们进一步探究了基于症状驱动的干预方法的有效性,该方法成功修复了 20.15% 的故障案例(相较当前最先进的修复方法提升了 191.89%)。本研究旨在为 MAS 调试与修复研究提供可操作的洞见,为多智能体系统的稳健部署铺平道路。