ATLAS-AL：通过主动学习实现潜在对抗搜索的自适应信赖域

arXiv:2610.07323v1 公告类型：新 摘要：基于学习的系统的安全评估不仅需要针对固定的攻击集合测试系统，还需要借助自适应机制，高效地发现能够诱发模型失效的输入集合。我们提出 ATLAS（自适应信赖域潜在对抗搜索），这是一个面向黑盒学习系统、用于发现对抗性输入集合的基于查询的框架。ATLAS 将攻击生成建模为一个主动学习的水平集估计问题，然后结合经过校准的近似方法与局部—全局采样架构，寻找包含对抗样本的输入空间区域。在发现这些区域后，ATLAS 会在其中采样点，以构建能够准确反映目标模型鲁棒性状态的对抗集合。在玩具实验中，我们发现，在有限的查询预算下，与以往工作相比，ATLAS 能够恢复更多对抗区域。在标准训练和对抗训练的 MNIST、CIFAR 及 ImageNet 模型目标上，ATLAS 生成的代表性攻击优于其他基于查询的黑盒攻击方法（NES、SignHunter、BayesOpt）。ATLAS 构成了一个自动化红队测试框架，既可用于分析开发中的基于学习的系统的鲁棒性，也可用于持续审计，以观察系统鲁棒性如何随时间变化。