arXiv cs.AI精选82

CliffCompaction:面向长时程编程智能体的高成本效益压缩

CliffCompaction: Cost-Efficient Compaction for Long-Horizon Coding Agents

· 21天前

精选理由

介绍可将长程编码智能体上下文压缩成本降低一半的方法,并开源兼容实现。

AI 摘要

智能体经常处理需要数百万个 token 上下文的复杂问题,而受限的上下文窗口使得跨会话压缩成为必要。我们开发了 CliffCompaction,这是一种自动压缩技术,在有界上下文下最多可降低 50% 的成本,同时在 Terminal-Bench 上保持或提升性能,并为测试时扩展带来新的效率水平,在 KernelBench 上取得最先进的结果。CliffCompaction 在每次运行中节省的成本,使测试时扩展的性能—成本权衡更加高效:在 Terminal-Bench 上,仅低于两次完整上下文运行的成本,就能额外提升超过 10 个百分点。在并行测试时扩展下,CliffCompaction 使 Kimi K2.6 达到与 Opus 4.7 相当的表现,并以更低成本超越 Opus 4.6 和 GPT-5.3 Codex。CliffCompaction 高效的关键在于,它只截断或删除内容,从不对内容进行改述或重写,从而保持压缩信息的忠实性。我们绝不会对压缩结果再次压缩——每次处理仅针对原始内容,之前的压缩输出会被丢弃,以防止上下文漂移不断累积。这些特性支持跨越超过一百万个 token 的会话持续学习:在 KernelBench 上,经过 200 步后,CliffCompaction 实现了 CUDA 内核 2.23 倍的加速,经过 400 步后达到 3.58 倍,尽管它是一种通用压缩技术,仍超越了专用搜索算法和经过训练的智能体。我们开源了一个与脚手架无关的 CliffCompaction API 代理实现,可与 Claude Code、Codex 及其他运行框架配合使用。

查看原文(arXiv cs.AI)