MemSteer:将用户历史记录转化为智能体记忆优化的监督信号
MemSteer: Turning User Histories into Supervision for Agent Memory Optimization
精选理由
将用户历史自动转为可审计监督,优化智能体记忆并显著提升问答效果。
AI 摘要
一个有效的智能体记忆系统应适应用户的历史记录和任务需求。人工标注的监督信号可以通过提供用于评估和改进记忆设计的反馈来引导这种适应。然而,对于新的用户历史记录,合适的标签很少可用,手动构建问答对及其支持证据的成本也很高。我们提出 MemSteer,将无标签的用户历史记录转化为带有支持证据的问答(QA)监督信号,用于记忆设计优化。MemSteer 构建一个以证据为依据的答案规划,明确相关记录中的事实如何共同支持参考答案。该规划指导问题生成,同时通过基于源材料的审计和盲式答案恢复来检查生成的标注。为研究这种监督信号的效用,我们开发了 MemSteer-Opt,将基于问答的设计评估与证据引导的失败诊断相结合,在不更新模型参数的情况下修改记忆存储、检索和上下文构建。ATM-Bench 和 RHELM 上的实验表明,这种监督信号与官方 QA 引导的优化相比具有竞争力。相较于 Base-BM25,MemSteer-Opt 在 ATM-Bench 上将 Question Score 提高了 13.4 分,并使 RHELM 的准确率在无外部数据和使用外部数据的情况下分别提高了 4.1 分和 6.6 分。该监督信号还使 ATM-Bench 上的两个现有优化器受益;此外,新用户实验表明,利用从目标历史记录中生成的监督信号,可以持续进行设计优化。