训练有素的智能体上下文管理
Trained Agentic Context Management
精选理由
介绍一种训练模型主动管理上下文的方法，以较短上下文实现超长文档处理能力。
AI 摘要
arXiv:2610.02404v1 公告类型：新 摘要：我们研究长上下文语言模型。我们不采用原生训练长上下文的方式，也不设计长上下文工具框架，而是在最简单的工具框架上训练模型：一个可使用任意指定提示词调用自身的工具，以及一个可从输入上下文中读取指定范围内词元的工具。我们使用这一工具框架，在多样化的合成数据集上对 Qwen3.6-35B-A3B 进行微调。仅使用 8,000 个词元的上下文时，当文档长度超过 40K 个词元，我们的小型模型在 OOLONG-synth 基准测试上的表现就已达到使用 1M 个词元上下文的 GPT-5.4 的水平。