通过随机嵌入扰动对开放权重 LLM 进行越狱

arXiv:2610.07125v1 公告类型：cross 摘要：尽管开放权重模型的能力持续稳步提升，并在多个领域得到广泛应用，但其安全性仍然是一个重要问题。其中一个关键特征是能够拒绝或规避有害、恶意或不敏感的提示。在本文中，我们揭示了六种不同规模的常见开放权重 LLM 存在安全漏洞，这些漏洞会在 JailbreakBench 基准数据集上持续导致有害或不安全的响应。我们提出的攻击方法 Perturbed Embedding Vector (PEV) 是一种简单快速的“越狱”技术，其成本低于以往方法；后者通常需要计算梯度、针对每个提示进行优化，或修改模型的内部权重。PEV 只需在提示的嵌入向量表示中加入独立的高斯噪声，无需进一步操作。为了生成不安全响应，我们从该分布中反复采样加性噪声。在实验中，我们观察到，获得首次成功攻击所需的平均计算成本最多仅为以往攻击方法的十分之一。在每个受测模型上，对于新提示，首次成功越狱通常会在一分钟内出现；此外，PEV 能够针对 JailbreakBench 中的所有提示，在所有模型上生成不安全响应。尽管其他受测方法运行时间更长，但没有任何一种方法能取得这样的结果。更广泛地说，我们认为，理解 LLM 在嵌入向量受到扰动时的行为是一个重要的研究方向：扰动虽然构成重大安全风险，但也可以作为探索此类模型动态行为的宝贵工具。