UniGuardian：用于检测大型语言模型中提示注入、后门攻击和对抗性攻击的统一防御方案
UniGuardian: A Unified Defense for Detecting Prompt Injection, Backdoor Attacks and Adversarial Attacks in Large Language Models
精选理由
介绍一种无需训练、统一检测多类提示触发攻击的方法，助力提升大模型安全性与推理效率。
AI 摘要
arXiv:2502.13141v2 公告类型：replace-cross 摘要：大型语言模型（LLM）容易受到提示注入、后门攻击和对抗性攻击等攻击的影响，这些攻击通过操纵提示或模型来生成有害输出。在本文中，我们突破传统的深度学习攻击范式，探讨这些攻击之间的内在联系，并将其统称为提示触发攻击（PTA）。这引出了一个关键问题：给定一个提示，我们能否判断是否存在隐藏触发器在引导模型的行为？据我们所知，我们提出的 UniGuardian 是首个无需训练、能够在不知道攻击类型的情况下联合检测已成功激活的提示注入、后门攻击和对抗性攻击的 LLM 检测器。其共享机制通过衡量结构化提示扰动如何改变模型的输出分布来进行检测。此外，我们引入了一种单次前向传播策略来优化检测流程，使攻击检测和文本生成能够在每个解码步骤中通过共享的批量前向传播同时完成。实验结果证实，UniGuardian 能够准确且高效地识别 LLM 中由触发器激活的提示。