酒后吐真言与漏洞：通过诱导醉酒语言审视 LLM 安全性
In Vino Veritas and Vulnerabilities: Examining LLM Safety via Drunk Language Inducement
精选理由
醉酒语言会显著放大大模型越狱与隐私泄露风险，为安全评测和防御提供新视角。
AI 摘要
arXiv:2601.22169v2 公告类型：replace-cross 摘要：人在酒精影响下容易产生不良行为并泄露隐私。本文研究醉酒语言，即人在酒精影响下写出的文本，如何导致大语言模型（LLM）出现安全失效。我们研究了在 LLM 中诱导醉酒语言的三种机制：基于人格设定的提示、因果微调，以及基于强化的后训练。在 5 个 LLM 上进行评估时，我们观察到，相较于基础 LLM 以及此前报道的方法，这些模型在 JailbreakBench 上更容易被越狱（即使存在防御措施），并且在 ConfAIde 上更容易发生隐私泄露；这两个基准测试均使用英语。通过结合人工评估、基于 LLM 的评估器以及错误类别分析，我们的研究结果凸显了人类醉酒行为与通过醉酒语言诱导出的 LLM 拟人化现象之间的对应关系。我们的醉酒语言诱导方法简单高效，因此可能成为规避 LLM 安全调优的手段，凸显了 LLM 安全面临的重大风险。