arXiv cs.LG精选77

有针对性的搜索表明,随机器件测试低估了模拟基于波的神经算子中的最坏情况误差

Targeted search shows that random-device testing underestimates worst-case error in a simulated wave-based neural operator

· 7天前

精选理由

揭示随机抽样会低估波动器件最坏误差,提示用定向搜索强化鲁棒性测试。

AI 摘要

arXiv:2610.07529v1 公告类型:新稿 摘要:基于波的处理器有望为神经算子提供快速且节能的傅里叶层。人们通常在随机采样的器件上对其进行验证,但要使用这些器件,就需要知道在制造和对准变化下其误差可能达到多大。在一个风格化的数值案例研究中,一个混合傅里叶神经算子在模拟的相干 4f 处理器上运行其四个谱层;这些处理器包含 32 个具有容差的调节参数,其半宽具有代表性,但未经校准。对于 120 个模型(四项任务、六种训练方法、五个随机种子),我们将 N 个随机且符合规格的器件中的最坏情况与一个通过搜索得到的器件进行了比较。在一个冻结随机静态误差样本的确定性模拟器上,搜索得到的器件在留出数据上的误差,是 200 个蒙特卡洛器件中最大误差的 1.08—3.10 倍,是 1000 个器件中最大误差的 1.06—2.71 倍。在 20 个新生成的静态误差样本下,它仍在 120 个模型中的 116 个模型中超过了 200 个随机器件的最大误差。在均匀采样下,抽到这种器件的概率对于每个模型至多为 0.37%(双侧 95% Clopper-Pearson 置信区间),但这一概率并不能说明其误差会有多大。在搜索预算相同的情况下,无论采用均匀采样还是 Sobol' 采样,这一差距都依然存在;在共享调节参数、第二种串扰模型、取值范围缩放为 0.25—2,以及像素级器件模型下也同样如此。仅使用随机静态误差进行训练的模型,在搜索得到的器件上的误差达到其标称误差的 3.7—39.9 倍;而在随机器件和通过梯度搜索得到的器件上进行微调,在全部 20 个任务—随机种子组合中,都获得了六种方法中最低的搜索器件误差。对于两个换热器量,针对每个量进行的搜索在全部 39 个模型中都超过了 1000 个随机器件的最大误差,因而也超过了 Wilks 95/95 上限(59 个样本中的最大值)。对于 11 个模型的平均压力,没有任何随机器件超过 1% 的误差阈值,但搜索得到的器件超过了该阈值。随机测试可以估计误差超过某一阈值的频率;而最坏器件搜索则能给出误差可能达到多大的下界。

查看原文(arXiv cs.LG)