arXiv cs.AI精选75

SUMONE:一种用于即插即用智能体记忆的简单高效摘要器

SUMONE: A Simple and Efficient Summarizer for Plug-and-Play Agent Memory

· 16小时前

精选理由

提出无需任务专属训练的智能体记忆压缩方法,大幅降低长程任务推理成本,并可跨模型与框架迁移。

AI 摘要

长时程语言模型智能体会积累越来越庞大的交互历史,因此上下文压缩对于高效执行至关重要。现有基于学习的压缩方法通常依赖下游任务结果或求解器行为,使训练与特定任务或智能体绑定。我们提出 SumOne,这是一种独立的摘要器,通过掩码重建进行训练,以保留智能体历史中的信息。给定过期历史的摘要,一个冻结的重建器会恢复原始轨迹中被随机掩蔽的部分;重建质量与长度惩罚相结合,为使用 GRPO 优化摘要器提供与任务无关的奖励。这种方法直接从原始轨迹中获取自监督信号,无需参考摘要,也无需执行下游任务。在推理时,仅保留轻量级摘要器,即可为其他方面保持不变的智能体提供即插即用的上下文压缩。我们在长时程搜索和软件工程任务中对 SumOne 进行了系统评估。相较于使用完整上下文运行,SumOne 在 DeepSearchQA 和 SWE-bench Verified 上分别将估算的推理成本降低了约 78% 和 75%,绝对降幅均为 0.04。同一模型检查点还可迁移至不同的下游模型和智能体运行框架,无需额外微调。

查看原文(arXiv cs.AI)