双方向预算下的导数高斯过程

arXiv:2610.10428v1 公告类型：cross 摘要：梯度观测有望带来更准确的高斯过程（GP）代理模型，但纳入梯度的成本长期以来阻碍了这一优势的实现。我们提出了一种导数 GP：每个观测到的梯度仅使用两个方向的预算。其中一个方向关注每个梯度对目标预测的直接贡献，另一个方向则通过其与条件函数值之间的相关性，汇总梯度的间接贡献。在 Vecchia 近似中，每次预测在 $d$ 维空间中以附近的 $m$ 个输入为条件；该构造使用至多 $2m$ 个方向导数来表示这 $md$ 个梯度坐标，并使每个预测目标的稠密分解成本达到 $\mathcal{O}(m^3)$。对于一般的条件集合，我们相对于使用完整梯度时的结果界定后验近似误差，并刻画误差较小或近似精确成立的条件。在模拟实验中，在条件集合大小相同的情况下，我们的方法达到了领先的精确梯度降维方法的准确度。由于其成本随条件集合大小增长得慢得多，该方法可以使用远超精确方法内存限制的条件集合，以极少的时间和内存获得更低的预测误差。值得注意的是，我们的方法能够利用梯度观测，同时所需的计算时间或内存少于仅使用函数观测的 GP 基线方法。