通过 Pre-NMS 预测分布偏移检测目标检测中的后门

部署在安全关键应用中的目标检测模型仍然容易受到后门攻击的影响：当隐藏触发器出现时，这些攻击会导致有针对性的异常行为。现有检测方法要么依赖触发器反演，要么利用特定架构假设；更关键的是，具有代表性的现有方法无法可靠地泛化到场景级攻击，在这类攻击中，单个触发器会同时诱发整个场景中所有对象的异常行为。我们提出 DistScan，这是一种基于一个简单但此前未被利用的观察的后门检测框架：即使在没有任何触发器的干净输入上，后门注入也会系统性地使模型的 Pre-NMS 预测类别分布偏离其训练类别频率。DistScan 在干净验证集上聚合中间类别预测，并在所得分布显著偏离训练类别频率时将模型标记为存在后门；它不需要访问模型权重、不需要触发器知识，也不需要额外训练。在 MS-COCO 和 PASCAL VOC 上，跨两种架构和三种场景级攻击场景的大量实验表明，DistScan 显著优于现有方法，相比表现最佳的适用基线，平均检测准确率提高了 27.32 个百分点。