TextSeal2：通过 Copula 混合与无记忆竞赛实现的无失真大语言模型水印

我们提出了 TextSeal2，这是一种无失真的大语言模型水印，即使在推测解码下也能保持其信号：替换被拒绝草稿的 token 仍使用相同的密钥进行水印处理，且接受率保持不变。它还能保持输出多样性，并且不会引入可测量的推理延迟。其前身 TextSeal 通过抛硬币将每个 token 路由至两个密钥之一，从而恢复 Gumbel-max 方案中的多样性。但这种做法并非最优，因为检测器不知道使用的是哪个密钥，只能对两个密钥的得分取平均。相比之下，TextSeal2 将两个或更多密钥合并为一个虚拟密钥，并通过 AutoMark 的高斯 copula 将其与新噪声耦合。任意数量的密钥（包括公开共享的密钥）都可以通过这种方式合并，而不会削弱检测能力。在推测解码下，TextSeal2 通过在草稿竞赛剩余部分上再进行一次指数竞赛，来验证带密钥的草稿。根据无记忆性，这次竞赛能够复现块验证过程，因此输出与目标模型完全一致。我们在三个 LLM 上评估了 TextSeal2。在输出 token 多样性相同的情况下，当误报率为 $10^{-3}$ 时，TextSeal2 检测出的 100-token 回答比 TextSeal 多 8 到 22 个百分点；与 textGrain 的表现相当，同时无需进行 logits 后处理优化。在推测解码下，在接受率相同的情况下，TextSeal2 检测出的 200-token 回答分别比 TextSeal 和 textGrain 多 18 和 22 个百分点。