面向随机性高效差分隐私的抖动高斯机制
Dithered Gaussian Mechanism for Randomness-Efficient Differential Privacy
精选理由
提出兼顾隐私安全与随机性效率的高斯机制,助力更稳健高效的差分隐私训练。
AI 摘要
arXiv:2607.06320v3 公告类型:替换交叉版本 摘要:我们提出了抖动高斯机制,这是一种用于差分隐私的离散高斯机制替代方案。该机制对隐私输出进行离散化,而不是对噪声分布本身进行离散化。通过将这种离散化解释为对高斯机制的后处理,我们的构造直接继承了标准高斯机制的隐私保证,同时避免了有限精度浮点输出所导致的漏洞。此外,该机制在随机性使用方面具有可证明的高效性:通过直接采样离散化后的输出值,隐私保护所需的高质量随机比特数量可以显著减少,并且与噪声水平无关。这是通过将随机性分为两个来源实现的:一个高质量随机源,用于隐私关键的采样步骤;以及一个高性能公共随机源(可能为对手所知),用于提供随机离散化所需的额外随机性。这种分离使得在不造成显著性能损失的情况下使用密码学安全的随机性成为可能。作为应用,我们研究了使用 DP-SGD 进行模型训练,并表明,在降低浮点漏洞暴露风险的同时,可以通过适度的实际开销实现密码学安全的噪声生成。