测试针对未预见对手的鲁棒性
Testing robustness against unforeseen adversaries
精选理由
帮助读者评估模型对未知攻击的真实鲁棒性
AI 摘要
我们开发了一种方法，用于评估神经网络分类器能否可靠地防御训练期间未见过的对抗攻击。我们的方法产生了一项新指标 UAR（Unforeseen Attack Robustness），用于评估单个模型针对未预料攻击的鲁棒性，并强调需要在更多样化的未预见攻击范围内衡量性能。
查看原文（OpenAI Blog）
Testing robustness against unforeseen adversaries
帮助读者评估模型对未知攻击的真实鲁棒性
我们开发了一种方法，用于评估神经网络分类器能否可靠地防御训练期间未见过的对抗攻击。我们的方法产生了一项新指标 UAR（Unforeseen Attack Robustness），用于评估单个模型针对未预料攻击的鲁棒性，并强调需要在更多样化的未预见攻击范围内衡量性能。