arXiv cs.AI精选75

智能体应该遗忘什么?分离所存储的内容与所使用的内容

What Should an Agent Forget? Separating What Is Stored from What Is Used

· 34天前

精选理由

深度 86 / 新颖度 82,来自 arXiv cs.AI。

AI 摘要

持久化语言智能体需要存储的经验在一段时间内持续可用,而每个回答都需要适合特定问题的证据。已经被取代的事实可能会误导对当前状态的回答,却仍可能是历史查询所必需的。我们提出了 RD-Forget,一种无需训练的框架,用于分离智能体存储的内容与使用的内容。保留的源档案保存观测结果,而查询条件化的记忆视图则控制这些观测结果对当前回答的影响。一个冻结的语言模型整理器提取相关证据,将事实归入语义槽位,并保留多跳推理所需的关系。在当前状态上下文中,同槽位替换链接会抑制已被取代的值,而意图感知检索则使较早的证据能够再次发挥作用。率失真公式引导在记忆预算内构建回答时视图。实验覆盖对话记忆、知识更新、事实整合、长上下文推理以及个性化任务,并采用统一的回答流程。结果表明,准确回答既依赖于构建与查询相关的证据,也依赖于对过时备选信息的控制。不具备遗忘机制或查询条件化的配置得分缺失最大,而槽位分组、历史访问和关系保留发挥着互补作用。在保留历史的同时选择性地控制其使用,为适应不断变化的事实和未来问题提供了一种实用方案。

查看原文(arXiv cs.AI)