arXiv cs.AI精选82

OptScientist:优化定律的自动化发现

OptScientist: Automated Discovery of Optimization Laws

· 10小时前

精选理由

提出自动发现优化规律的方法,助力从数据中构建简洁、可解释的科学理论。

AI 摘要

许多科学现象最好被理解为潜在优化问题的结果,然而,自动化科学发现长期以来主要侧重于恢复描述观测到的输入—输出模式的方程。我们提出了 OptScientist,一种新颖的自动化框架,能够直接从数据中发现紧凑的符号优化定律。OptScientist 包括:(i)一个模型,该模型首先学习将数据表示为优化问题,然后提取其符号形式,以推断符号优化问题;(ii)一个 LLM 智能体系统,将该模型嵌入发现流程中,整合科学文献中的理论先验,发现候选定律,抽象其潜在机制,并建议收集新的数据。我们首先在 OptFeynman 上评估 OptScientist。OptFeynman 是一个包含 99 个源自物理学的优化问题的新基准。在超过 80% 的问题上,OptScientist 成功恢复了真实定律,并且对含噪的上下文信息保持稳健,同时显著优于基于机器学习、符号方法和 LLM 的模型发现基线。在人类风险选择和中央银行货币政策任务上,OptScientist 发现了紧凑的符号优化定律,在留出数据上的预测性能可与领先基线相媲美,同时使用的参数更少,所需词元也显著少于 LLM 基线。总体而言,OptScientist 将自动化科学发现拓展到揭示产生观测现象的优化定律,从而推动物理、生命、行为和社会科学领域的自动化理论构建。

查看原文(arXiv cs.AI)