C-SafeGen：基于声明的流式护栏认证安全 LLM 生成

尽管大型语言模型（LLM）在各种应用中展现出卓越能力，但它们仍容易生成违反安全法规和政策的内容。为降低这些风险，LLM 会经过安全对齐；然而，它们仍可能被有效地越狱。现成的护栏模型通常被部署用于监控生成内容，但这类模型主要关注检测，而非确保 LLM 输出的安全解码。此外，现有工作缺乏严格的安全保证，而这对于 LLM 的普遍部署以及符合监管标准的可认证合规性至关重要。在本文中，我们提出了一种基于声明的流解码（Claim-based Stream Decoding，CSD）算法，并结合使用保形分析的统计风险保证框架。具体而言，我们的 CSD 算法集成了流式护栏模型，以保护 LLM 生成的序列化声明，并引入回溯机制，以修订被标记为具有较高安全风险的声明。我们提供了理论保证，证明 CSD 算法能够在满足安全约束的条件下实现所需的生成分布。此外，我们还提出了生成风险认证框架，并推导出所提出的 CSD 算法安全风险的高概率上界。我们证明，该方法能够渐近地将安全风险控制在任意期望水平。实证评估表明，与最先进的安全解码方法相比，CSD 算法具有良好的有效性和效率。此外，我们还利用真实数据验证了所推导安全风险上界的可靠性和紧致性。