ClockMark：面向大语言模型的自适应与依赖宿主的水印方法

arXiv:2610.27079v1 公告类型：new 摘要：大语言模型（LLM）水印作用于生成过程中不断演化的下一个词元分布。在流式生成中，每个采样得到的词元都会成为文本的一部分，并影响后续的分布。因此，与经典水印根据已有宿主信号调整嵌入不同，LLM 水印的嵌入过程面对的是不断变化的宿主。为适应这一差异，我们基于两项原则，为 LLM 水印构建了一种新颖的嵌入框架。首先，我们认为嵌入应当具备自适应性，保留先前采样决策的状态，以更好地引导后续选择。其次，我们认为嵌入应当依赖宿主，利用当前的 LLM 分布来约束词元选择和状态更新。在这两项原则以及分布保持性和对文本编辑的鲁棒性这两个要求的指导下，我们提出了 ClockMark。该方法将自适应嵌入和依赖宿主的嵌入与消息扩散相结合，把完整载荷嵌入每个带水印的词元中。从理论上，我们证明了 ClockMark 能够保持原始 LLM 序列分布，从而维持生成质量。在实证方面，针对 12 种基线方法的大量实验表明，ClockMark 对文本编辑具有更强的鲁棒性；与测试中最强的基线方法相比，其比特准确率最高提升 16.08 个百分点。