超越边际影响:面向 LLM Agents 的交互感知记忆选择
Beyond Marginal Influence: Interaction-Aware Memory Selection for LLM Agents
精选理由
提出交互感知的记忆选择方法,能以更少评估找到维持决策所需的最小证据集。
AI 摘要
LLM-agent 记忆选择通常使用基于记录相关性或个体影响力的检索排序。在存在冗余证据或必须联合使用的证据时,这类排序无法识别足够的子集。我们研究面向单次决策的记忆充分性:选择一个能够保留完整记忆行为的小型子集。为区分搜索误差与模型误差,我们引入了 JointCoreBench——一个包含九类交互、六个工作流领域、自然语言决策以及精确充分集预言器的基准——以及 JointCore——一种按相关性和成本排序的组删除基线,先测试信息块,再测试单条记录。在 6,912 个精确条件下,按成本排序的 JointCore 在 100.0% 的情况下找到了最低成本充分集,将子集评估次数从 30.00 降至 11.13(减少 62.9%),并实现了 87.8% 的活跃记忆节省。在四类 12B-70B 模型系列、每个模型 432 项任务上,相较于按成本感知的单例删除方法,其无加权平均模型查询次数为 10.28 对 16.00,最低成本恢复率为 50.6% 对 43.1%。在确定性的主接口下,两种方法都能保留完整记忆行为。通过物理删除、UNKNOWN 掩码、PENDING 哨兵、反事实值和替代标签进行的测试,揭示了依赖接口的行为。JointCore 是一种高效的基准方法;本研究并未证明其已具备可用于部署的记忆压缩能力。