arXiv cs.LG精选75

WaSP:用于无求解器算子学习的 Wasserstein 数据合成流水线

WaSP: Wasserstein Data Synthesis Pipeline for Solver-Free Operator Learning

· 1小时前

精选理由

提出逐步缩小训练与目标分布差异的无求解器数据合成方法,显著提升神经算子求解精度及混沌统计量复现能力。

AI 摘要

arXiv:2611.07646v1 公告类型:新论文 摘要:神经算子为求解偏微分方程(PDE)提供了快速代理模型,但其训练通常需要获取成本高昂的输入-解样本对。两种无需求解器的替代方案是物理信息学习和基于人工构造数据的训练。物理信息学习通过最小化 PDE 残差来逼近解。残差范数必须足够强,才能控制解的误差,但更强的范数会增大小批量方差,阻碍优化。人工构造数据的方法通过将 PDE 算子作用于人为构造的解,生成用于学习的输入-解样本对。然而,由此得到的训练分布可能与目标分布互相奇异,导致模型在目标分布上的精度较低。我们提出 Wasserstein Data Synthesis Pipeline(WaSP),利用人工构造的输入-解样本对进行训练,同时逐步缓解分布偏移。WaSP 将学习到的算子应用于一条由中间分布构成、收敛至目标输入分布的路径,从而合成新的样本对。训练沿这条路径分阶段进行。在每个阶段,前一个代理模型生成解,再由精确的 PDE 算子推导出对应的输入,从而为下一个代理模型生成训练样本对。在理论上,我们针对合成过程中引入的分布偏移,证明了逐步误差传播界。在实验中,对于 Allen-Cahn、Kuramoto-Sivashinsky 和 Ginzburg-Landau 等 PDE,与现有的无求解器方法相比,WaSP 将解误差降至其 $1/3.9$ 至 $1/9.5$,并且能更好地再现其中两个混沌系统的统计观测量。

查看原文(arXiv cs.LG)