何时支出隐私预算：私有学习中的最优分配

隐私核算能够界定 Differentially Private Stochastic Gradient Descent 的累积隐私成本，但无法确定如何在各次迭代之间分配固定预算。我们将完整的高斯噪声方差调度建模为复合零集中差分隐私约束下的开环控制，并明确计入调度选择本身的影响。针对期望二次终端跟踪目标，我们证明每个局部极小值都会耗尽经认证的预算，从而得到一个精确预算单纯形 formulation。我们提出 Privacy-Budget Adjoint Mirror Descent（PB-AMD），将逐路径伴随梯度与熵式更新相结合，以保持正性、费用下限以及预设预算。基于正则性与强制性假设，我们建立了最优调度的存在性与预算稳定性、从设计到训练的效用稳定性，以及确定性、随机性和样本平均意义下的驻点性保证。线性二次约化给出了显式的平方根分配定律。实验表明，与多种分配规则相比，该方法在跟踪性能上有所提升；在学习率重启场景中，相比均匀分配，它在预测性能上也有所改善，而学习率分配表现相近。在相同的驻点容差下，在所测试的问题上，与投影梯度下降相比，该方法的调度优化耗时更低。该框架通过非线性训练动力学，将经认证的隐私核算与优化联系起来。