arXiv cs.AI精选74

ProgRouter:面向质量-成本权衡的多智能体 LLM 工作流在线进度引导编排

ProgRouter: Online Progress-Guided Orchestration for Multi-Agent LLM Workflows under Quality-Cost Tradeoffs

· 48天前

精选理由

帮助读者掌握多智能体LLM中降本保质的动态路由方法

AI 摘要

多智能体大语言模型(LLM)工作流已成为通过专门化 LLM 智能体之间的协同推理来解决复杂、开放式任务的强大范式,但由于需要反复调用 LLM 以及长时程上下文累积,其运行成本相当高。现有的级联路由方法只能做出一次性、查询级别的决策,无法适应多步工作流中动态变化、依赖状态的特性;在这类工作流中,每一步选择合适的 LLM 取决于不断演化的任务进度、剩余任务难度以及成本效率要求。我们提出 ProgRouter,这是一种在线的进度引导路由框架,可在工作流各步骤中自适应地选择 LLM 智能体,以在遵守时间和成本预算的同时保持任务求解质量。ProgRouter 引入了一个多视角任务进度评分器,结合了粗粒度的工作流结果状态、以及关于子任务完成情况、进度趋势和工作流状态质量的细粒度信号。随后,一个双路径任务进度预测器和一个自适应元门控机制会估计每个候选路由 LLM 所带来的进度增益。ProgRouter 依据这些信息进行在线、逐步的路由决策,在进度增益、任务时间预算和长期运行成本效率之间取得平衡。我们在 HumanEval Plus、MBPP、MATH-500 和 ASQA 上进行了实验,涵盖智能体式代码生成、数学推理以及检索增强的长篇问答,结果表明 ProgRouter 在保持强任务求解性能的同时,相比关键基线降低了运行成本。

查看原文(arXiv cs.AI)