arXiv cs.LG精选80

大型语言模型何时是良好的校准代理?用于预算受限工程模拟器校准的物理标注提示

When is a large language model a good calibration agent? Physics-labeled prompting for budgeted engineering simulator calibration

· 2小时前

精选理由

揭示物理标注提示可显著加速昂贵仿真校准,并给出高效混合优化方案。

AI 摘要

arXiv:2610.22379v1 发布类型:新 摘要:昂贵的工程模拟器校准需要调整模型参数以匹配参考数据,而这一过程受到计算成本的严格限制。本研究探讨了这样一个问题:在以模拟误差的物理诊断描述为条件时,大型语言模型(LLM)能否比传统的无导数优化器更高效地提出有信息量的参数更新。我们在圆柱绕流大涡模拟和阻尼振子逆问题上对此进行了测试。我们将物理标注提示与四种文本消融设置(移除、匿名化、填充、误导)以及标准优化器(Nelder-Mead、贝叶斯优化、CMA-ES 和随机搜索)进行比较。结果表明,LLM 具有显著的早期语义优势:在 25 次试验中的 23 次中,第一次物理信息驱动的 LLM 提议就改善了初始设计。经过五次评估后,其中位校准误差比无物理信息的对照组低 21.9 倍。然而,这一优势是暂时的——到十五次评估时便消失——且 LLM 解码器固有的变异性导致性能相差 9.8 倍。为解决这一问题,我们提出了一种混合工作流:将 LLM 用作热启动器,并把累积的评估结果传递给传统优化器。这种两阶段数值延续策略仅用 9 次模拟器运行就达到了目标精度,优于单独使用 LLM(12 次运行)、Nelder-Mead(17 次运行)和贝叶斯优化(超过 60 次运行)。敏感性分析验证了测试案例,为此提供了支持。结果证明,在严格的评估预算下,这种混合物理标注 LLM 方案作为校准代理极为有效。

查看原文(arXiv cs.LG)