通过熵最优传输实现低预算主动学习
Low-Budget Active Learning through Entropic Optimal Transport
精选理由
提出基于熵正则最优传输的低预算主动学习方法，提升小样本选点效率与模型精度。
AI 摘要
arXiv:2610.01199v1 公告类型：新 摘要：我们研究低预算主动学习问题，即选择数量有限的点构成核心集，使模型仅在这些选定点上训练就能达到较高精度。当标注需要昂贵的专家介入时（例如医疗应用中），这一问题尤为重要。我们利用从预训练自监督模型中提取的特征来表示数据，并直接在该特征空间中进行核心集选择。在本文中，我们采用熵最优传输，具体而言是 Sinkhorn 散度，作为核心集选择准则。该准则首先使我们能够获得与维度无关的样本复杂度结果，其次支持计算高效的梯度评估。这为使用基于梯度的算法快速计算候选解创造了条件，并通过基于交换的局部搜索进一步改进，同时还提供解质量保证。在图像基准数据集和医疗数据集上的实验表明，在低预算设置下，我们的方法优于当前最先进的启发式方法。