初始化提升 LLM 驱动的发现能力

arXiv:2610.00707v1 公告类型：新 摘要：大型语言模型（LLM）已通过使用提示 LLM 迭代优化目标的工具框架，被用于算法、定理、药物及其他任务的新颖发现。在本研究中，我们考察了此前迭代结果的总体与最终发现成功率之间的关系。我们将以往关于工具框架设计的研究加以推广，开发出一套名为“Modular”的 12 个工具框架，并在 5 项多样化的发现任务中刻画其性能，发现发现成功率较为脆弱，且对工具框架设计高度敏感。我们发现，模式坍缩是一个常见的失败模式，其特征是迭代结果的多样性显著下降。我们还发现，当前流行的先进工具框架以及旨在延缓这种坍缩的多样性诱导型工具框架干预措施，所带来的收益并不一致。相反，我们的结果揭示，早期发现的性能能够预测最终成功与否。因此，我们提出一种普适性干预方法：先进行初始阶段的并行探索，以初始化后续的迭代优化。该方法在众多工具框架和目标应用中都带来了稳定的性能提升，证实了初始化对于 LLM 驱动的发现至关重要。