非平稳加权风险最小化的快速收敛速率

arXiv:2602.05742v3 公告类型：replace-cross 摘要：加权经验风险最小化是分布漂移条件下进行预测的一种常用方法。本文研究其在非平稳条件下的样本外预测误差。我们给出将超额风险分解为学习项和分布漂移相关误差项的一般形式，并证明混合条件下学习误差的预言不等式。学习误差界对任意权重类一致成立，并考虑了权重向量所诱导的有效样本量、权重类与假设类的复杂度，以及潜在的数据依赖性。我们还分析了平方损失情形下的漂移误差，并为结构突变过程和平滑漂移过程给出显式界。随后，我们在采用线性模型、基函数近似和神经网络的（自）回归问题中，将学习误差分析与漂移误差分析相结合。在所有情形下，最优权重均由学习与漂移之间的偏差—方差权衡刻画；而在无权重且平稳的特殊情形下，则可恢复极小极大最优速率（相差至多对数因子）。