LLM 人格遗忘

arXiv:2609.39882v2 公告类型：替换交叉版本 摘要：预训练使大型语言模型（LLM）具备与角色、风格、价值观和目标相关的广泛行为模式。后训练教授条件性执行能力，并使乐于助人的助手成为默认模式，但不会从权重中抹除其他模式；因此，明确的提示词可能诱发某些人格，而这些人格会反复影响模型的判断、语言和行动。在开放权重设置下，运行时控制可以被移除，这促使人们研究人格遗忘：一种在权重层面进行的编辑，使指定人格难以在未见过的上下文中被诱发和执行。我们推出 PersonaUnlearnBench，这是一个特定于模型的配对基准，涵盖来自三个系列的六个 LLM 和五种人格，包含对齐的遗忘集/保留集、留出的指令释义以及四个维度的评估。该基准表明，标准遗忘方法无法在不牺牲有意义的生成能力或通用效用的情况下，可靠地抹除目标人格。因此，我们提出 PaCE：通过比较模型针对同一问题生成的目标响应与理想响应，定位一种内部行为方向；随后训练目标提示词对应的状态，使其远离目标模式，并趋向匹配的理想响应。实验表明，PaCE 能够持续抑制目标人格，同时保持较高的响应质量和有用的替代行为，仅付出中等程度的效用成本。这些结果确立了人格遗忘作为一种独特的行为层面编辑问题，并表明它是实现对潜在 LLM 响应策略进行持久控制的一条实用途径。