协变量与概念偏移的一般量化

分布偏移下的泛化仍是现代机器学习面临的核心挑战，但现有的学习界理论仅适用于狭窄且理想化的场景，并且无法从样本中估计。本文弥合了理论与实际应用之间的鸿沟。我们首先表明，当源域与目标域的支持集不匹配时，现有的概念偏移定义会失效。借助熵正则化最优传输，我们提出了一个关键概念：$γ^{*}\!$-概念偏移，并推导出一个统一协变量偏移与$γ^{*}\!$-概念偏移的一般误差界，该误差界适用于广泛的损失函数、标签空间和随机标注。进一步地，我们为这些偏移开发了带有集中性保证的估计器，以及DataShifts算法；该算法能够量化分布偏移并在大多数应用中估计误差界，为分析分布偏移下的学习误差提供了一种严格且通用的工具。