arXiv cs.AI精选78

Tripwire:通过统计认证的安全神经元触发对齐拒绝

Tripwire: Triggering Aligned Refusal via Statistically Certified Safety Neurons

· 60天前

精选理由

帮助读者以低损耗方式提升大模型抗越狱安全性。

AI 摘要

神经元级和路径级干预为防御大型语言模型(LLMs)免受越狱攻击提供了最细粒度的途径,但现有方法未能实现这一前景,即它们往往会显著损害模型效用。具体而言,一类工作通过抑制有毒神经元来抹除有害语义,但由于此类语义分布在整个网络中,阻断每一条路径会导致干预范围过大。另一类研究则侧重于使用外部分类器识别安全神经元。尽管前景可期,现有方法也会影响对模型效用同样重要的神经元。此外,这两类方法都始终处于开启状态,因此即使不存在攻击,也会扰动每一个良性请求。为解决这些局限,我们提出 \ours{},这是一种无需训练的防御方法,首先通过在错误发现率控制下进行逐神经元假设检验,并结合效用特异性过滤器,识别安全特异性神经元。基于该识别结果,一种触发器式钳制将所选神经元保持在其有害条件均值激活水平,注入内部有害输入信号,从而触发对齐过程中学习到的拒绝行为。随后,该钳制通过两种可证明等价的部署模式实现,即检测器门控的推理时干预和离线 bias-patch 权重编辑。在四个经过安全对齐的 LLMs 和四种代表性攻击上的大量实验表明,\ours{} 将平均攻击成功率降低到至多 2.0\%,同时在 MT-Bench 上仅造成 0.5\% 至 5.3\% 的效用下降,是所有防御方法中最小的。代码可在 https://anonymous.4open.science/r/Tripwire-65C4 获取。

查看原文(arXiv cs.AI)