大型语言模型的越狱缩放定律：多项式—指数交叉

arXiv:2603.11331v4 公告类型：替换 摘要：对抗性攻击能够可靠地诱导经过安全对齐的大型语言模型产生不安全行为。通过实证研究，我们发现，对抗性提示注入攻击可以将未进行注入时观察到的缓慢多项式增长的攻击成功率，放大为随推理时采样数量呈指数增长的攻击成功率。我们首先针对安全生成在不同上下文中的分布提出一组最小假设，并据此给出能够产生这两种缩放定律的最小统计机制。为进一步解释这一现象，我们提出了一种代理语言的理论生成模型：将其描述为处于复制对称性破缺状态的自旋玻璃系统，其中生成结果从相应的 Gibbs 测度中抽取，并将一部分低能量、具有大小偏置的簇指定为不安全簇。我们从解析上展示了该模型如何自然地实现这些最小假设。较短的注入提示对应于指向不安全簇中心的弱磁场，并使攻击成功率随推理时采样数量呈幂律增长；而较长的注入提示，即强磁场，则会产生指数增长。我们在范围广泛的大型语言模型中观察到了定性一致的行为，其参数规模涵盖 3B 至 70B。特别是，在多种攻击方法（如 GCG 和 AutoDAN）以及 AdvBench 和 HarmBench 等基准数据集之间，主要趋势仍然保持稳定。