TabMF：利用表格基础模型学习数据集表示

arXiv:2610.13818v1 公告类型：新提交 摘要：监督学习数据集的表示可支持数据集检索和分布偏移监测等更高层次的机器学习任务。然而，现有方法通常依赖于手工设计的元特征，或专门为表示学习训练的数据集编码器。我们提出 TabMF，这是一个将预训练表格基础模型（TFM）用作监督学习数据集编码器的框架。TabMF 为预测型 TFM 配备了架构感知的数据集级读出机制，并利用合成监督学习数据集的随机视图进行对比式后训练，以端到端方式适配模型。我们基于 TabICLv2 和 TabPFN-2.5 实现 TabMF，并在未见过的真实数据集上，通过六项任务评估所得表示。简单的冻结 TFM 读出机制即可产生具有竞争力的表示，这表明预测式预训练已经形成了丰富的数据集级结构。这两个 TabMF 编码器在所评估的学习型和经典数据集表示方法中取得了最佳综合性能，尤其在数据集检索、紧凑基准构建和分布偏移严重程度评估方面表现突出。