SquidAgent：明智并行，高效协调

arXiv:2610.08647v1 公告类型：交叉收录 摘要：基于 LLM 的智能体能够解决复杂的多步骤任务，但顺序执行会带来显著延迟。原则上，将工作分配给多个智能体并行处理应能获得近乎线性的加速。然而，现有的并行多智能体系统往往比单智能体基线运行得更慢。我们将这一差距归因于并行执行会产生、而串行智能体能够避免的两项隐性成本。第一项是重新探索成本：并行工作智能体为重建编排器已经掌握的上下文（例如先前的决策）而付出的重复劳动，而在串行执行中，这些上下文本可隐式继承。第二项是对齐成本：为协调独立生成的输出之间的不一致而产生的开销。因此，我们推导出一项有理论依据的决策准则：只有当某一层的关键路径成本加上重新探索和对齐开销低于相应的串行成本时，才应对该层进行并行化。尽管这项准则自然可以用实际耗时来表述，但我们观察到，LLM 在估计任务耗时时的校准表现不佳。为此，我们改用预测的输出词元数衡量成本，实证结果表明，LLM 对输出词元数的估计比对实际耗时的估计可靠得多。基于这一词元准则，我们提出了 SquidAgent。它在单次规划步骤中估计所有词元预算，直接从编排器的会话中派生每个工作智能体以消除重新探索成本，并用预先生成的共享约定块取代事后协调，将对齐转化为有界的前置成本。随后，确定性调度器逐层应用该准则。实证结果表明，SquidAgent 的平均吞吐量达到 Claude Code 的 2.2$\times$，按实际耗时计算的平均加速比为 2.6$\times$，吞吐量达到最强多智能体基线的 2.0$\times$。