防御针对基于深度学习的人脸识别流水线的后门攻击的实用技巧集
A Bag of Tricks for Defending Deep Learning-based Face Recognition Pipelines against Backdoor Attacks
精选理由
提供人脸识别系统抵御数据投毒后门攻击的实用方案，涵盖训练与推理阶段，并评估其效果和开销。
AI 摘要
保护成熟的多阶段人脸识别系统对系统提供商至关重要。本技术报告聚焦于与业界从业者最为相关的威胁模型：尽管模型训练在内部进行，但训练数据来自可能已遭入侵的第三方。在这一设定下，我们提出了三种防御基于数据投毒的后门攻击的实用“技巧”。第一种在训练阶段发挥作用，在训练期间或流水线部署之前检测遭到投毒的身份。后两种在推理阶段发挥作用，在向潜在攻击者返回结果之前过滤可疑输入。我们介绍了每种方法的设计动机、算法及其对计算开销的影响，并在贴近实际的人脸识别工作负载上进行了评估。我们的目标是为系统提供商提供可落地的安全加固技术。