扩展执行框架,而非上下文:从无策略脚手架到可复用的专业代理
Grow the Harness, Not the Context: From Strategy-Free Scaffolds to Reusable Specialist Agents
精选理由
通过让控制逻辑沉淀为可复用代码,显著降低智能体调用与推理成本,并提升小模型表现。
AI 摘要
大型语言模型(LLM)代理通常需要处理一系列相关任务,但标准执行框架会在每个任务的上下文中反复要求模型重新构建相同的控制决策。我们研究了能否利用任务反馈,将反复出现的控制逻辑转化为可复用的可执行代码,同时仅将 LLM 调用用于特定任务的语义推理。我们提出 Growing Harness,这是一种由失败引导的训练范式:它从无策略脚手架中学习代理执行框架本身。该脚手架提供固定的模型和工具接口,但不编码任何任务求解控制器。函数级执行轨迹会将每次失败定位到有限的代码范围内,优化器联合修复一组失败,而以成功为优先的留出集门控机制则会回滚损害既有能力的修复序列。被接受的修改会累积到同一个共享执行框架中,使其控制结构能够从任务反馈中逐步涌现。在 BrowseComp-Plus 和 WebArena-Verified 上,使用参数量从 4B 到 120B 的三种部署模型进行评估时,Growing Harness 在六个基准-模型设置中的五个设置上取得了最高平均成功率,并且在第六个设置中仅比最佳平均值低 0.7 个百分点。相较于 Tool-Calling 代理,它将 LLM 调用次数减少了 76.0%–91.8%,将已部署代理的推理成本降低了 74.4%–98.6%。在 WebArena-Verified 上,Growing Harness 在不同模型规模下的成功率保持在 44.7%–45.3%,而 Tool-Calling 在使用 4B 模型时则降至 6.7%。消融实验表明,基于轨迹定位的局部修改、联合修复以及基于门控的回滚机制均能提升最终成功率。这些结果表明,持久化的程序增长能够将反复出现的控制逻辑从模型上下文转移到低成本代码中,从而产生可复用的专业代理,即使使用更小的部署模型也能保持有效。