Sentry：学习在测试时从 LLM Agent 失败中恢复

arXiv:2610.02994v1 公告类型：新 摘要：LLM Agent 经常会在任务执行过程中因无效的工具调用、重复操作或缺乏充分依据的推理而失败，而从这些失败中学习是实现可靠性的一条途径。我们发现，失败知识如何传达给 Agent，与其中包含什么内容同样重要。失败经验具有条件性：将其保留在 Agent 的上下文中时，当对应的失败并未发生，它们反而会产生误导；而将这些经验从不断演化的行动手册中移除，能够提升性能。相比之下，运行时干预只会在失败发生时发挥作用，却不会从修复过程中学习。我们认为，失败知识属于条件性知识，应当有条件地呈现；Sentry 正是这一原则的具体实现，它是一个与 Agent 并行运行的失败管理层。当 Sentry 检测到失败时，会从外部行动手册中检索匹配的经验以指导恢复，并在无法访问任务奖励的情况下验证 Agent 是否已恢复；只有在确认恢复成功后，才会存储新的经验；完整的行动手册始终不会进入 Agent 的上下文。在多个 Agent 基准测试中，Sentry 在每项基准测试上的表现都优于最强的运行时干预基线，平均提升 37\%；在两者均进行评估的两项基准测试中，其表现比最强的上下文演化基线高出 39\%；将 Sentry 与上下文演化结合还能进一步提升性能。学习到的经验能够迁移到留出任务上，而受控实验表明，即使相关经验仍可按需获取，将完整行动手册呈现给 Agent 也会降低性能。