arXiv cs.AI精选83

LLM 安全性中的极性盲视:对否定、反义词替换和对抗性框架的系统研究

Polarity Blindness in LLM Safety: A Systematic Study of Negation, Antonym Substitution, and Adversarial Framing

· 18小时前

精选理由

揭示多语种大模型对否定与反义改写的安全盲区,为构建更稳健的防护机制提供依据。

AI 摘要

否定在跨 NLP 任务和模态的语言模型中仍然是一个持续存在的挑战。我们表明,这一弱点可能通过一种我们称为“极性盲视”的结构性漏洞破坏 LLM 安全防护机制:在语言极性发生变化的转换之后,模型无法识别有害意图。我们研究了两种极性反转形式:语法否定和反义词替换,并使用同义词替换作为保持极性的对照。我们进一步测试了对抗性文本包装是否会放大这些失效。我们在 10 个最先进的 LLM 和 3 种语言(英语、西班牙语、捷克语)上使用包含 260 条提示的基准测试,根据潜在危害性进行分层,并采用经过验证的 0—5 级危害量表进行评估。结果发现,极性盲视影响了大多数受评估模型,其中最脆弱模型的平均危害评分达到 4.12。这一效应在具有类型学差异的否定系统中依然存在,表明极性盲视反映的是语义稳健性方面更广泛的局限,而非特定于某种语言或语法的失效。

查看原文(arXiv cs.AI)