量化思想多样性：加权 LLM 集成提升的预测定律

arXiv:2607.17384v3 公告类型：替换交叉版本 摘要：本文提出了一条经实验验证的形式化定律，用于计算思想多样性为大型语言模型（LLM）集成带来的提升。我们从第一性原理出发，将 LLM 集成提升精确分解为挽救质量和损害质量，由此得到一种用于计算提升幅度的紧凑启发式方法。基于此，我们提取出能够预测集成性能的指标：经过准确率调整的正确性相关系数 $\phi_{\mathrm{adj}}$，以及两者之间的准确率差距和二者的集体准确率。我们在来自十个开放权重模型的 767,520 次推理上检验了该定律，这些推理涵盖两个研究生水平的科学基准，以及一个全新的智能体网络安全基准。在后者中，每个模型都在网络隔离的沙箱中通过多轮工具调用开展数字取证调查（包括弃答在内共 23,520 次评分试验）；所有投票结果均公开发布。该启发式方法仅在 SuperGPQA 上以 40:60 的投票比例校准一次后，在校准集上以 Spearman's $\rho=0.84$ 预测提升幅度；在冻结其系数的情况下，它还能迁移到两个从未用于校准的数据集上（在 GPQA Diamond 上 $\rho=0.51$，在取证任务上 $\rho=0.84$），同时，交换质量始终能够以 $R^2\ge 0.96$ 追踪实际实现的提升幅度。原始 $\phi$ 几乎没有预测能力（始终为 $R^2\le 0.09$）；经过准确率调整的 $\phi_{\mathrm{adj}}$ 明显更优（在 SuperGPQA 上为 $R^2=0.67$），而结合这些指标的启发式方法，是三个数据集中最稳定的池化前预测指标。