理解标签噪声下的数据增强

arXiv:2610.27701v1 公告类型：新 摘要：数据增强（DA）已成为现代机器学习系统的基本组成部分，并被广泛视为提升鲁棒性和泛化能力的有效策略。尽管在实证上取得了成功，但在标签噪声下，DA 的理论影响仍缺乏充分理解。在本文中，我们首先从理论上解释 DA 何时有益、何时会产生不利影响，并分别针对独立同分布（i.i.d.）学习场景和更具挑战性的领域泛化场景，给出区分这两种情形的充分条件。随后，我们揭示了一个反直觉现象：DA 在学习过程中本质上充当了不确定性放大器，降低了模型稳定性和泛化性能。所提出的学习界和泛化界支持了这一发现。我们的分析不依赖于特定的 DA 技术，仅需较弱的假设，这表明相关结果适用于广泛的机器学习场景。也就是说，我们为在存在标签噪声的情况下理解、分析和设计 DA 方法提供了统一的理论基础。