高效且可证明隐私的表格分类模型

arXiv:2610.10068v1 公告类型：new 摘要：表格数据是医学、金融、政府和科学领域预测与决策的基础，但通常包含个人层面的敏感信息，因此既需要准确预测，又要保护隐私。传统隐私学习能够提供形式化的隐私保证，但需要缓慢的、针对特定数据集的优化，在强隐私要求下效用损失显著，而且通常难以正确应用。表格基础模型能够快速适应新数据集，但现有模型缺乏形式化的隐私保证，并且极易受到成员推断攻击的影响，限制了其在敏感数据上的应用。在此，我们提出 PrivTab，这是一种易于使用的、用于差分隐私分类的表格基础模型，将隐私机制嵌入其架构之中。PrivTab 在模拟数据集上进行预训练，并利用上下文学习将敏感数据行转换为紧凑且具有可证明隐私保证的摘要——实际上学会了如何在隐私约束下进行学习。在中等至强隐私要求下，PrivTab 的表现优于私有线性模型和神经网络基线模型，成员信息泄露几乎可以忽略；在强隐私要求下，它仍能保持良好校准的预测，并将数据集拟合时间缩短 10,000 倍，只需一次前向传播。PrivTab 将形式化隐私、高速性和易用性相结合，使 AI 的最新进展能够应用于此前因个人层面敏感数据而难以采用的场景。