PrivDrift:审计主动 LLM 对话中主题漂移下的用户秘密泄漏
PrivDrift: Auditing User-Secret Leakage Under Topic Drift in Active LLM Conversations
精选理由
揭示话题漂移后用户秘密仍可被模型提取,助力评估与防范对话隐私泄漏。
AI 摘要
大型语言模型日益广泛地作为持久化助手运行于面向用户、共享会话和工具增强型环境中。当用户在进行中的对话中披露敏感信息时,即使对话随后转向无关主题,这些信息仍可能通过后续提示在行为层面被恢复。我们提出 \textbf{PrivDrift},这是一个用于审计用户披露的秘密在对话发生主题漂移及基于说服的探测后是否仍可被恢复的基准。PrivDrift 包含 1{,}000 个受控的多轮对话,其中设有预置秘密、内容密集型漂移轮次以及标准化提取探针。在三个具有扩展上下文窗口的 LLM 上,跨对话级别的混合泄漏仍然十分显著,比例介于 38.7\% 和 54.6\% 之间,并且会因模型、秘密类型和说服强度的不同而有明显差异。在所测试的漂移窗口内,进一步的主题漂移并不能可靠地降低泄漏,这表明主动 LLM 上下文中的隐私风险应被评估为一种持久性的行为失效模式,而不应仅被视为训练数据记忆或即时越狱行为。