何时准确率构成证据？泛化、验证与信息融合的统一理论

arXiv:2610.03465v1 公告类型：cross 摘要：K 折交叉验证（CV）被广泛用作样本外性能的证据，尽管在异质数据下，各折既不是相互独立的实验，也不具有同等的信息量。Cross Upper-Bound Validation（CUBV）以真实风险的保守上界取代逐点 CV 准确率。本文通过一个统一的指数框架对 CUBV 进行推广，在该框架中，泛化差距的矩母函数由累积量包络 gamma(lambda) 控制。由此得到一族风险界，涵盖 Hoeffding、Bernstein、依赖感知、PAC-Bayesian 以及异质源融合等情形。对于 K 折 CV，折间泛化差距的依赖关系通过联合次高斯代理矩阵进行建模。在等相关条件下，这给出有效折数 Keff = K/[1+(K-1)rho]，表明当各折高度依赖时，增加 K 未必会增加统计证据。该框架还扩展到预测器的后验分布和加权多源融合，其中权重通过最小化未来风险的上界来选择，而非仅依据经验误差。我们在异质多模态高斯混合数据上使用训练得到的线性分类器开展实验，将 K 折 CV 与全样本重代入加风险校正进行比较，并通过覆盖率和紧致性评估界。在低维小样本情形下，K 折划分可能增加不确定性，因为单个折无法充分代表少数模态；相比之下，经校正的重代入仍可保持有效且具有更高紧致性；随着样本量增加，这一效应会消失。总体而言，gamma-CUBV 将观测性能、不确定性、依赖关系、模型复杂度和置信度分解为明确的项，为从 CV 得分走向风险陈述提供了统一路径，并为神经影像等异质小样本应用提供了一种有原则的验证准则。