HarnessMM:通过递归自我改进提升编排框架的词元效率
HarnessMM: Recursive Self-Improvement for Harness Token Efficiency
精选理由
通过复用已验证决策减少智能体重复推理,在保持或提升任务成功率的同时显著降低 token 成本。
AI 摘要
智能体编排框架会在收到工具反馈后反复调用推理,即使先前的调用已经确定了下一步行动。我们提出 HarnessMM(Harness Minus Minus),一种通过带守卫条件的决策复用和递归自我改进(RSI)提升编排框架词元效率的方法。RSI 根据训练反馈迭代优化配套的编排框架配置,并通过验证选择用于部署的配置。模型与工具交互边界处的控制器复用已确定的决策,以替代后续推理回调,同时保持执行模型的权重不变。可执行决策图存储确切的动作、字面量参数、因果依赖关系和公开的守卫条件。带守卫条件的决策复用根据观测到的回执激活这些持久化决策;经认证的回调替代通过原生接口执行这些决策,并记录已注册慢速回调的移除。新的语义决策、缺乏支持的证据以及选择器弃权都会触发对原始执行模型的再次调用。这种表示限制了反馈可以修改的内容,而完整任务测量则用于确定质量和成本。在 HumanEval 上,HarnessMM 将 Codex 的成功率保持在 90.82%,同时将每个任务的词元数(千)从 66.72 降至 47.02(节省 29.54%)。对于 DeepSeek Harness,成功率从 71.43% 提升至 85.71%,同时每个任务的词元数(千)从 96.28 降至 11.62(节省 87.93%)。一项独立的 MBPP 消融实验测得,相较于一次性使用的决策图,该方法成本降低了 26.91%;相较于保留回调的方案,成本降低了 19.52%。这些结果表明,带守卫条件的决策复用是减少现有编排框架中重复推理的一种实用方法。