arXiv cs.LG精选72

用于物理信息神经网络的傅里叶特征金字塔

Fourier Feature Pyramids for Physics-Informed Neural Networks

· 6天前

精选理由

深度 88 / 新颖度 85,来自 arXiv cs.LG。

AI 摘要

arXiv:2605.24278v2 公告类型:替换 摘要:我们提出了一种改进的神经场架构,用于求解偏微分方程(PDE)。当前的物理信息神经网络(PINN)为求解PDE提供了灵活的框架,但难以获得高精度解,并且其计算需求随参数数量增长不理想。我们将模型称为 beignet(Bandlimited Embedding with Interpolated Grid Network),它以可训练的多分辨率傅里叶特征金字塔取代了现有PINN模型所使用的随机傅里叶特征嵌入。为了在连续坐标处查询 beignet,我们在金字塔的每一层使用傅里叶插值,返回输入坐标处的特征,然后通过全连接神经网络主干对该向量进行解码。我们的模型具有多项优势:1)可以利用链式法则,将通过自动微分计算的神经网络导数与通过快速傅里叶变换(FFT)以谱方法计算的特征网格导数组合起来,从而高效地计算空间导数。2)beignet通过扩展傅里叶特征金字塔的参数数量,以计算高效的方式实现更高精度,而不是采用扩展神经网络架构这一效率较低的策略。3)beignet能够直接控制表示的带限范围,从而为困难的PDE实现更稳定的优化。我们在PDE基准测试中展示了,与当前最先进的PINN方法相比,beignet使用更少的参数即可获得显著更准确的解。我们还在自相似无黏Burgers爆破解问题上对 beignet 进行了评估,结果表明,使用 Adam 即可将残差降低至接近机器精度;此前只有借助计算开销高昂的高阶优化器才能达到这一精度水平。

查看原文(arXiv cs.LG)