何时、何处、如何：表格基础模型的主动上下文学习

表格基础模型（TFMs）仅通过上下文中的带标签行来适应新任务。然而，在现实场景中，获取标签的成本高昂，因为确保数据质量需要高度专业化的领域知识。主动上下文学习将经典的采集规则迁移至这一场景，在此过程中，每增加一个标签，用于指导采集的模型都会发生变化。我们探究的是：随着参数冻结的 TFM 获得更多上下文，多样性、预测不确定性和目标感知信息增益的价值如何变化。为此，我们研究了 Target-Aware Nearest Neighbor（TANN）采集方法和 Expected Predictive Information Gain in Context（EPIC），并将它们与经典规则进行比较评估。我们使用两个成熟的 TFMs 和经典的梯度提升决策树（GBDTs），在二十个基准上开展研究，得到三项主要发现：（i）何时：在最初几轮采集中，基于多样性的采集效果最佳；（ii）何处：通过简单的目标感知最近邻规则，为池中有助于目标输入预测的行添加标签，具有显著作用；（iii）如何：在给定标签预算下，EPIC 能获得最佳模型；在候选池最大的八个基准上，仅标注池中 5–10% 的数据，便能平均保留经随机水平校正后的全量数据性能的 80–87%；此外，其选取的标签也能提升梯度提升决策树的预测性能。