基于动力学 Langevin 采样的可扩展 Logistic 高斯过程密度回归

arXiv:2610.09591v1 公告类型：交叉发布 摘要：条件密度估计旨在估计给定协变量时响应变量的完整分布，例如逐星系测光红移估计就需要这样的分布。我们提出了一种基于 Logistic 高斯过程的可扩展贝叶斯估计器。对数条件密度具有可分离的协方差结构：沿响应变量方向采用 Matérn 核，并以圆上的截断 Fourier 基表示；协变量核则以 Nyström 特征表示，可容纳振幅和长度尺度随输入变化的非平稳核。我们不采用 Laplace 近似或变分近似，而是对这一有限特征模型的潜在场进行采样。给定超参数后，其后验分布具有强对数凹性，且 Hessian 矩阵一致有界；我们在经 Kronecker 白化的坐标中，采用对称小批量分裂方法模拟动力学 Langevin 动力学，从而从该后验分布中抽取样本。根据 Fisher 恒等式，边际似然梯度可表示为后验期望。在我们的分析条件下，其偏差由采样器的步长和运行长度控制，预测则对非高斯潜在后验分布求平均，而不是对其众数附近的高斯分布求平均。在训练观测数据多达 390 万条的测光红移基准测试中，该估计器仅使用单块 GPU 训练，在密度和校准指标上可与最先进的表格基础模型相媲美。