面向多轮人机对话的智能体式上下文管理
Agentic Context Management for Multi-Turn Human-AI Conversations
精选理由
通过分离提炼用户需求与审查助手历史,减少多轮对话中的误解累积,同时保留必要的上下文与工具结果。
AI 摘要
LLM 在多轮对话中的性能下降,部分源于上下文污染:模型自身先前的输出会留在上下文中,并对后续轮次形成锚定,因此,即使用户作出纠正,模型早期对用户意图的误读仍可能持续存在。助手消息省略(AO)通过丢弃所有助手消息来消除这种污染,但当交互涉及回指时便会失效:后续轮次会回指仅存在于助手轮次中的草稿、决策和工具调用结果。我们提出 Agentic Conversation Context Curation(AC3),这是一种无需训练的方法,由独立的分析器执行以下操作:(1)仅根据用户消息整合任务规范;(2)依据该规范审查助手先前的输出;(3)编辑上下文,具体方式为追加分析,或丢弃助手侧内容并根据任务规范重建上下文。第二个发现是:污染具有传染性。如果分析器在提取任务规范时能看到助手的推理,其表现可能比不进行干预还差,而指示它忽略这些推理也未能弥合差距,因此我们从结构上排除了助手轮次。在 Lost in Conversation 上(重放按难度筛选的实例),AO 因数据构造方式而成为理想基准;在四项任务中的三项上,AC3 缩小了完整上下文与 AO 之间差距的 55%–84%,并在第四项上超越了 AO。即使投入更多计算资源,忠实总结历史记录的 LLM 也无法复现这一增益。在真实的 WildChat 对话上,对于主表中的每一种配置,GPT-5-mini 评判模型都更偏好 AC3 生成的下一轮回复,而非使用完整上下文或 AO 生成的回复,不过这种偏好取决于评判模型;在 CollabLLM 上,结果则有好有坏。在有状态工具使用场景(tau2-bench)中,AO 在所有模型上的表现均崩溃至 0%;AC3 未出现崩溃,但略逊于完整上下文。检测器研究表明,Reset 能移除注入的污染,但并不具备文本片段级的选择性:其增益来自任务规范的重建。