分解换来的是完整性,而非产出
Decomposition Buys Integrity, Not Yield
精选理由
深度 95 / 可操作性 86,来自 arXiv cs.AI。
AI 摘要
多智能体系统将任务分摊到一棵智能体树上,并用一些约定俗成的理由为这种拆分辩护:更小的上下文、更清晰的分工、并行处理。我们考察这种拆分会如何影响叶节点发现的信息有多少能够传达到根节点。将分解建模为一棵树:一个接收到 $b$ 个项目的智能体,以 $r(b)$ 的概率保留其中任意一个项目。当 $r(b)=1/b$ 时,无论任务规模和树的形状如何,每棵树都会准确传递一个发现;我们在 20,000 棵随机不规则树上验证了这一点,误差达到 $2.4 \times 10^{-15}$。当 $r(b)=Cb^{-δ}$ 时,一棵覆盖 $N$ 个发现、深度为 $k$ 的树可产生 $C^k N^{1-δ}$:任务规模与架构彼此分离,而架构在每一层只贡献一个不超过 1 的因子 $C$,因此就产出而言,扁平结构是最优的,并且任何智能体编排方式都无法避开指数 $δ$。在 600 条生产环境深度研究轨迹中,通过三种彼此不共享失效模式的识别方法,得到 $δ= 0.34$ [0.30, 0.38]。在一个项目边界由工具而非文本启发式方法确定、且 $b=1$ 出现 550 次的跳转位置上,我们在 16,082 次跳转中直接观测到而非外推得到 $C = 0.571$ [0.527, 0.615]。分层还会带来对齐成本:在 1,012 条经过标注的多智能体轨迹中,每十六份简报就有一份偏离目标,由此得到 $μ= 0.939$,每层的惩罚为 $Cμ= 0.536$。深度还在另外两个维度上带来收益。根上下文是唯一持续存在的状态,也是唯一无法低成本遗忘的状态;深度将其暴露量从 $N$ 个项目降低到 $N^{1/k}$。深度的成本也更低:生产环境中的扁平智能体计费规模为 $N^{1.39}$,而不是追加式上下文所预测的 $N^2$;在支出相同的情况下,两层结构在 403 个发现时超过扁平结构。综合我们测量的所有参数,该模型认为只有 0.7% 到 11.3% 的生产会话值得委派,而实际进行委派的会话占 7.8%。对 743,819 次生产环境工具调用进行的风险模型表明,委派并不是对上下文逐渐填满的响应,而是一种开场动作。