arXiv cs.LG精选77

非线性算子及其导数的通用逼近

Universal Approximation of Nonlinear Operators and Their Derivatives

· 11天前

精选理由

为无限维空间中的算子及其导数学习提供通用逼近理论与训练方法

AI 摘要

arXiv:2605.15285v4 发布类型:替换 摘要:我们证明,通过算子学习(OL)架构对非线性算子及其导数进行通用逼近(UA),在 ${C^k_F}$(Fréchet)紧开拓扑和 Fréchet--Sobolev 范数(即算子范数)下是不可行的。我们通过在自然的较弱拓扑中恢复 UA 来解决这一障碍:${C^k_B}$(Bastiani)紧开拓扑,以及针对一般有限输入测度的(新颖的)加权 Bastiani--Sobolev 空间。在 Banach 空间的完全一般情形下,这些结果首次将 [Hornik, 1991] 中相应的经典重要结果完整推广到无穷维空间和 OL。基于我们的通用逼近定理(UATs),我们在 DIOL 中提出 Bastiani--Sobolev 训练。这些结果开启了在一般 Banach 空间上进行导数信息算子学习(DIOL)(即学习非线性算子及其导数)的研究。我们通过编码器-解码器架构对非线性算子进行参数化;这类架构是在一般 Banach 空间中可用的经典 OL 架构,包括 DeepONets、Deep-H-ONets 和 PCA-Nets,我们的 UATs 均适用于它们。一个关键的数学结果是,我们新提出的加权 Bastiani--Sobolev 空间推广了 Banach 空间上的经典高斯(Malliavin)Sobolev 空间。DIOL 和我们的 UATs 可应用的开放前沿领域包括:OL 中的高阶精度;通过 Learn-Then-Optimize 在 Banach 空间中进行快速约束优化(例如偏微分方程的最优控制、逆问题);无穷维偏微分方程的数值方法(例如,通过 Optimize-Then-Learn 处理无穷维最优控制所得到的 Banach 空间上的 HJB 偏微分方程,包括偏微分方程、SPDE、路径依赖系统、部分观测系统和均值场控制的最优控制)。

查看原文(arXiv cs.LG)