混合 Sobolev 空间中的浅层神经网络逼近

arXiv:2609.05263v2 公告类型：替换交叉版本 摘要：我们研究具有 $n$ 个神经元和一般激活函数的浅层神经网络对混合 Sobolev 空间进行最佳 $L_2$ 逼近的问题。首先，我们建立了一个与激活函数无关的傅里叶块原理：如果某个激活函数按照傅里叶块性质具有一元逼近阶数 $\rho$，那么对于混合光滑性为 $\alpha$ 的目标函数，其全局逼近速率具有 $\min\{\alpha,\rho\}$ 的代数阶，另有显式对数因子。为验证具体激活函数是否满足这一性质，我们引入了一种结构化的一元逼近条件，该条件能够以显式参数推出傅里叶块性质。对于 $\mathrm{ReLU}^k$，一个匹配的代数下界表明，在任意维度下，$\min\{\alpha,k+1\}$ 都是最优的代数逼近指数，而上界则相差对数因子。该框架还为基数 B-样条和 soft-$\mathrm{ReLU}^k$ 导出了指数 $\min\{\alpha,k+1\}$，并为 ELU 和余弦激活函数导出了完整的混合光滑性指数 $\alpha$，同样仅相差对数因子。