深度 ReLU 网络鲁棒性的理论下界
Theoretical Lower Bounds on the Robustness of Deep ReLU Networks
精选理由
从高维几何揭示深度ReLU网络的鲁棒性边界,为理解对抗脆弱性提供理论依据
AI 摘要
arXiv:2602.18674v2 公告类型:替换 摘要:我们对参数化神经网络应对随机输入扰动的鲁棒性进行了理论研究。具体而言,我们通过量化给定输入受到随机 L_2 扰动后仍能被正确分类的概率,分析其局部鲁棒性。对于深度 ReLU 网络,我们结合高维几何学中的工具,尤其是测度集中现象,以及一种对其输入—输出函数所诱导几何结构的新刻画,推导出局部鲁棒性的下界。我们证明,由 ReLU 网络诱导的输入空间划分中,每个凸多面体区域的面数至多等于网络单元的数量,而与网络深度或架构无关。这一几何性质是我们进行鲁棒性分析的关键。最后,我们分析局部鲁棒性如何随输入维度变化,并刻画其邻域最有可能包含对抗样本的输入集合。我们表明,包含脆弱点的决策边界邻域宽度会随着维度增加而迅速缩小,而仅随网络单元数量呈对数增长。我们还从决策边界近似填充空间的形状这一角度,讨论脆弱点集合的体积。