RBF核高斯过程极大似然估计的精确渐近理论
Sharp Asymptotic Theory of Maximum Likelihood Estimation for Gaussian Processes with an RBF Kernel
精选理由
系统刻画RBF高斯过程三类参数MLE的渐近性质,为理论分析与模型估计提供最优速率和可靠依据
AI 摘要
arXiv:2610.10080v1 公告类型:cross 摘要:高斯过程(GP)广泛应用于机器学习、空间统计学、时间序列分析、优化、贝叶斯统计学和科学应用等领域。GP模型的核心组成部分是其核函数,通常通过参数化族加以指定。其中,径向基函数(RBF)是最广泛使用的选择之一,也称为平方指数核或高斯核,这得益于其形式简单、光滑性好且具有灵活性。在实践中,核参数通常通过极大似然估计量(MLEs)进行估计,标准GP软件也采用了这种方法。尽管应用广泛,但在固定域渐近情形下,即使对于RBF核,MLEs的渐近行为仍缺乏充分理解。其主要困难在于:随着观测点变得密集,观测值之间的依赖越来越强,同时协方差矩阵对核参数呈现非线性依赖。本文填补了这一空白,据我们所知,首次在固定域渐近情形下,对空间方差、长度尺度和块金方差的联合MLE进行了完整的渐近刻画。我们建立了三种参数的一致性,推导了它们的收敛速率,证明了联合渐近正态性,并表明这些速率达到了极小极大最优。