我们应该为鲁棒性付出如此高的代价吗？具有边际保证的高效代理认证

arXiv:2611.08035v1 公告类型：新论文 摘要：现代分类器仍然对微小的输入扰动敏感，而随机平滑等强大的模型无关鲁棒性认证方法通常因成本过高而难以部署，因为它们需要对每个输入执行大量（例如 2000 次）模型前向传播。我们提出了一个框架，将认证任务交给低成本的代理函数，同时以统计方式控制其与原始可靠认证之间的偏差。给定一个可交换的无标签校准集，我们通过鲁棒保形风险控制来调整代理函数，以保证边际（而非逐点）错误批准率有界：即对于未来输入，代理函数接受一个预测会因扰动而发生翻转的输入的概率有界。由此得到的代理认证既可用作独立的边际认证，也可用作一种回退机制，仅在代理拒绝时调用高成本认证。我们提供了单样本和多样本两种校准方案。实验表明，作为独立认证方法，我们的方法将测试时的认证成本降低至仅需一次模型前向传播，同时在小半径下保留了随机平滑的大部分认证性能；作为回退机制，它则以较为有限的加速效果，恢复了随机平滑的认证比例。这使得为视觉 Transformer 和语言模型等更大型架构提供低成本且有效的鲁棒性保证成为可能。