arXiv cs.LG精选75

CoRTeC:一种可由任意生成器解码的合成表格数据差分隐私发布方法

CoRTeC: A Differentially Private Release for Synthetic Tabular Data, Decodable by Any Generator

· 1小时前

精选理由

以差分隐私发布可审计的噪声统计量,反复生成合成表格数据,支持安全共享与分类建模。

AI 摘要

arXiv:2611.06342v1 公告类型:交叉发布 摘要:能够用于训练最有用模型的记录,例如医院的患者档案,往往恰恰是机构无法共享的记录。我们提出 CoRTeC,一种在差分隐私保护下发布此类记录的合成版本的方法。差分隐私对合成数据能够揭示的任何个人信息,尤其是成员身份推断信息,施加了经过证明的限制。CoRTeC 仅消耗一次隐私预算,用于生成一个为训练分类器而设计、包含加噪计数的小型文件。对于每组记录,该文件提供该组的规模、结局分布、每种结局下各列的直方图,以及若干互不重叠的单元格中各自的结局发生率。审核人员可以在文件离开机构之前检查其中的每一个数值。此后,任何人都可以按需反复将这些计数转换为合成数据行,而不产生额外的隐私成本。最大熵解码器无需任何语言模型即可完成这一过程,我们测试的五个冻结语言模型也都能做到。它们均不会接触任何真实记录。随后,一个筛选步骤会使生成的数据行与已发布的计数相匹配。在 Adult 数据集的三种数据划分下,无需语言模型解码、在 $\varepsilon = 2$ 时自动配置的发布结果所训练出的分类器,与使用同等规模真实样本训练的分类器相比,AUC 差距不超过 0.02。在 NHANES 和银行营销数据集上,即使不执行筛选步骤,AUC 差距也保持在 0.05 以内。在 Adult 上,采用固定的队列划分规则时,发布结果比真实样本更贴近部署场景所指定的结局发生率,但代价是列对统计的准确性有所下降。四项对照实验表明,大部分效用来自发布结果和筛选步骤,而语言模型提供的增益来自其根据列名调用的知识。任何私有数据行都不会传入模型,CoRTeC 生成的数据行也没有一行复制真实记录。最强的成员身份推断攻击所达到的水平仍远低于隐私预算允许的界限。

查看原文(arXiv cs.LG)