arXiv cs.LG精选75

超越边际影响:面向 LLM 智能体的交互感知记忆选择

Beyond Marginal Influence: Interaction-Aware Memory Selection for LLM Agents

· 2小时前

精选理由

提出交互感知记忆筛选方法,减少评估次数并提升智能体决策记忆压缩效率。

AI 摘要

arXiv:2610.23266v1 发布类型:新 摘要:LLM 智能体的记忆选择通常使用基于记录相关性或个体影响力的检索排序。在存在冗余证据或必须联合使用的证据时,这类排序无法识别出足够的子集。我们研究面向单次决策的记忆充分性:选择一个能够保持完整记忆行为的小型子集。为区分搜索错误与模型错误,我们引入了 JointCoreBench,这是一个包含九类交互模式、六个工作流领域、自然语言决策以及精确充分集 Oracle 的基准;同时引入 JointCore,这是一种按相关性和成本排序的组删除基线,会先测试数据块,再测试单条记录。在 6,912 个精确条件下,按成本排序的 JointCore 在 100.0% 的案例中找到了最低成本充分集,将子集评估次数从 30.00 降至 11.13(减少 62.9%),并实现了 87.8% 的活动记忆节省。在四个 12B-70B 模型系列、每个模型 432 项任务上,相较于按成本感知的单例删除方法,其无加权平均模型查询次数为 10.28,而后者为 16.00;最低成本恢复率分别为 50.6% 和 43.1%。在确定性的主要接口下,两种方法都保持了完整记忆行为。通过物理删除、UNKNOWN 掩码、PENDING 哨兵、反事实值和替代标签进行的测试,识别出了依赖接口的行为。JointCore 是一种高效的基准方法;本研究并未证明其已达到可部署的记忆压缩水平。

查看原文(arXiv cs.LG)