arXiv cs.LG精选74

面向稳态神经 CFD 代理模型的跨域预训练

Cross-Domain Pretraining for Steady-State Neural CFD Surrogates

· 6天前

精选理由

跨域预训练显著提升CFD代理模型泛化能力,少样本即可降低误差并加速新场景应用。

AI 摘要

arXiv:2610.10398v1 公告类型:新 摘要:用于计算流体力学(CFD)的神经代理模型有望通过加速仿真极大推动工程创新。然而,神经代理模型的主要局限在于难以泛化到训练集之外的几何形状和应用场景;鉴于工程场景的多样性,这一问题尤为重要。目前,解决这一问题的方法是针对特定应用生成新数据集,但这需要运行成本高昂的数值求解器。在本研究中,我们通过研究在不同几何形状、边界条件和保真度的数据上训练的神经代理模型,向解决这一问题迈出了一步。我们发现,与从头训练以及从特定领域专家模型迁移相比,跨域预训练能够提升模型在留出数据集上的零样本和少样本性能。具体而言,在相同样本量下,对经过预训练的跨域模型进行微调,其误差可降低至从头训练的 1/2 到 1/3;而要达到相同误差,所需样本量仅为从头训练的 1/8。这一优势与架构无关,并且会随着模型规模和预训练数据集多样性的增加而提升。此外,我们还研究了跨域预训练在 CFD 代理模型中发挥作用的方式和原因,发现仅仅汇总稳态数据集就足以产生有效效果。鉴于生成 CFD 数据的成本高昂,随着未来的代理模型不断拓展以应对新的问题和应用场景,通过跨域预训练利用现有数据集很可能会成为一种有价值的策略。

查看原文(arXiv cs.LG)