重新思考合成数据生成中的匿名性主张：以模型为中心的隐私攻击视角

arXiv:2601.22434v2 公告类型：replace-cross 摘要：训练生成式机器学习模型以生成合成表格数据，已成为增强数据共享隐私保护的一种流行方法。由于这一过程通常涉及处理敏感个人信息，发布训练好的模型或生成的合成数据集仍可能带来隐私风险。然而，近期研究、商业部署以及《通用数据保护条例》（GDPR）等隐私法规，大多在单个数据集层面评估匿名性。本文从以模型为中心的视角重新审视关于合成数据的匿名性主张，认为有意义的评估必须考虑底层生成模型，并以最先进的隐私攻击为基础。这一视角能够更好地反映现实世界中的部署情况，因为训练好的模型通常可以被交互式访问或查询。我们在模型可被访问的假设下解释GDPR关于个人数据和匿名化的定义，以识别必须加以缓解的可识别性风险，并将其映射到不同威胁环境下的隐私攻击。随后，我们论证仅凭合成数据技术本身并不能确保充分的匿名化。最后，我们比较了合成数据最常使用的两种机制——差分隐私（Differential Privacy，DP）和基于相似性的隐私度量（Similarity-based Privacy Metrics，SBPMs）——并指出，尽管DP能够针对可识别性风险提供稳健保护，SBPMs却缺乏充分的安全保障。总体而言，我们的工作将监管语境中的可识别性概念与以模型为中心的隐私攻击联系起来，使研究人员、从业者和政策制定者能够更负责任、更可信地评估合成数据系统。