PrivacyFlow：通过信息流分析与后果感知风险管理保护 AI 智能体隐私

arXiv:2610.40714v1 公告类型：交叉收录 摘要：自主 LLM 智能体在基于个人数据执行多步骤工作流时，往往偏离用户的隐私预期，并泄露不符合当前情境的敏感信息。尽管情境完整性（CI）对这一问题进行了形式化描述，但现有基准和防御方法很少将 CI 落实到动态变化环境中的现实多步骤任务序列中。在本研究中，我们首先引入面向智能体的 PrivacyBench 基准，其中包含 986 个任务序列中的 5873 项任务，支持动态环境更新，并为敏感信息提供基于 CI 的允许共享集合。我们还提出 PrivacyFlow，这是一种将审慎的隐私规划（System 2）与任务执行（System 1）分离的防御方法，将每一次共享决策视为结构化的风险管理问题。在执行之前，PrivacyFlow 会追溯每条计划数据流的来源和用途，对接收方的背景知识进行建模，并模拟外部行为方可能推断出的信息。这使我们能够对信息披露的后续影响进行建模，包括推断攻击和依赖具体情境的危害。随后，它会权衡剩余的信息披露风险与任务效用，并执行经最小化处理的计划、阻止该计划或征询用户意见。在六个模型上的评估表明，PrivacyFlow 显著减少了步骤级隐私失误，并使已完成且未检测到隐私违规的任务序列占比提高了 22 至 55 个百分点。我们进一步指出了一种新的隐私—效用—自主性权衡：允许 PrivacyFlow 在存在不确定性时主动询问用户，可以提高获授权任务的完成率，但代价是将决策负担重新转移给用户。我们的结果表明，主动进行 CI 推理能够显著改善智能体的隐私保护，并为进一步研究这种权衡提供了依据。