扰动目标上的梯度下降的差分隐私

arXiv:2610.02716v1 公告类型：new 摘要：目标扰动向正则化经验风险中加入一个随机线性项，并发布精确的扰动后最小化器。我们研究如下有限计算过程：对 \(w\mapsto F(w;S)+\langle z,w\rangle\) 进行确定性梯度下降，并发布第 \(N\) 次迭代结果，其中 \(z\sim\mathcal N(0,\sigma^2I_d)\) 在优化开始前抽取一次。对于具有强凸性、光滑性和 Lipschitz Hessian 的目标函数，我们证明了一个显式条件；在该条件下，映射 \(z\mapsto w_N\) 在隐私分析所使用的有界域上是 \(C^1\)-微分同胚，并且其雅可比矩阵的最小奇异值具有定量下界。这使得我们能够直接通过变量变换分析有限次迭代结果。对于广义线性模型，只要满足迭代条件，所得的隐私轮廓界中不再显式包含环境维度因子，并且有限迭代修正项呈几何递减。令自由截断参数随 \(N\) 缓慢增长，我们便可在极限情形下恢复相应的精确最小化器证书。我们还将期望超额经验风险界定为 \(d\sigma^2/(2\mu)\) 加上一个几何递减的优化项，并将该结果推广到总体风险；在主要统计项中无需额外的乘法条件数因子。