通过 CVaR 惩罚的 Wasserstein 梯度流微调生成模型以应对极端事件

arXiv:2608.11544v2 公告类型：replace-cross 摘要：在许多高风险领域，极端事件会带来重大后果，但从有限样本中学习支配这些事件的重尾分布仍然十分困难：人们关注的量由少数极端观测值决定，因此尾部相对于其重要性而言采样不足。即使是针对重尾分布设计的生成模型，在实践中也无法充分捕捉尾部区域。我们提出条件风险价值（Conditional Value-at-Risk，CVaR）惩罚的生成粒子算法（CVaR-GPA），这是一种不依赖尾部具体形式的算法，用于将生成模型微调至重尾目标分布。该算法构造为一种 Wasserstein 梯度流的时间离散化过程，其对应的泛函是带 Lipschitz 正则化的 KL 散度，并通过 CVaR 差异项进行惩罚。这样的梯度流可以从预训练模型的输出样本初始化，随后沿损失泛函的梯度下降方向传输这些样本，而无需访问预训练模型的内部架构。带 Lipschitz 正则化的 KL 散度只需对目标分布作出极少假设，而 CVaR 惩罚则使梯度流聚焦于尾部。CVaR 惩罚仅通过一个标量尾部统计量依赖于目标分布，从而以与维度无关的估计成本，使速度场在采样不足的尾部区域仍保持活跃。由此得到的速度场，以及传输映射的深度，会隐式地适应目标分布，无需针对目标分布进行专门修改。在四个目标分布上进行实验时，其中包括两个真实世界的高维数据集——Ohio River 流域的日流量（\(d=64\)）和 Fama-French 投资组合（\(d=25\)），其尾指数范围为 \(1.05\) 至 \(3.34\)——使用 CVaR-GPA 进行微调，在涵盖 GAN、扩散模型及其他生成流的七个预训练模型上，并采用同一组超参数，使全局误差和尾部误差的几何平均降幅分别达到 \(14.0 \times\) 和 \(9.8 \times\)。