MECHVAR:面向自主机器学习实验选择的方差引导机制判别
MECHVAR: Variance-Guided Mechanism Discrimination for Autonomous Machine Learning Experiment Selection
精选理由
以低成本、可审计的实验选择机制,高效区分机器学习改进背后的真实原因
AI 摘要
arXiv:2610.01819v1 公告类型:new 摘要:基准性能提升往往无法明确归因于具体机制:复现某项改进本身并不能说明改进为何发生。我们研究有限机制库中的机制判别问题,其中后验加权的候选机制、可执行探针和有限的实验预算共同构成一个序贯实验选择问题。MECHVAR通过最大化探针预测响应的后验加权方差来选择下一个探针。在共享高斯预测模型下,该评分与经典的 Box--Hill 后验加权成对 KL 准则严格成正比,同时支持 O(KE) 的向量化重新评分,并可对机制对进行透明的加性审计。局部展开进一步表明,当预测响应之间的差异较小时,该评分与期望信息增益(EIG)相关。在包含 25 个区块的压力审计中,MECHVAR 在若干中等程度的模型失配情形下优于 confirmation-first,但其与 EIG 的主要比较在统计上仍无法得出明确结论。在留出的 Digits 循环中,MECHVAR 的归一化机制识别 AUC 为 0.8975,score-greedy 策略为 0.7825,EIG 为 0.9092。在 K = 100、E = 200 时,在记录的环境中,MECHVAR 对完整机制库进行单线程评分的中位耗时为 10.36 微秒,而采用六节点求积的 EIG 为 57.69 毫秒。因此,当共享预测尺度是一种合理的近似时,MECHVAR 为有限机制库实验选择提供了一种轻量且可审计的采集规则。