处处学习：带有逐点约束的人工智能

arXiv:2606.01557v2 公告类型：替换 摘要：处处学习是一种新的范式，在该范式下，人工智能（AI）系统经过训练后，能够以概率 1 在数据分布上满足损失约束。这与标准范式形成对比，后者训练人工智能系统以最小化平均损失。我们发展了一种近似对偶理论，用于支持一种泛化分析，从而确立经验处处学习问题与统计处处学习问题的解之间的接近性。我们的结果表明，对偶变量会对数据分布重新加权，使其更偏向于难以满足损失约束的点；而泛化能力则由数据分布的质量集中程度与约束较难满足的点上的质量集中程度之间的不匹配所控制。我们进一步表明，可以通过对约束松弛项施加稀疏 L1 惩罚来控制泛化。我们通过在语言模型任务中的智能体分类实验，展示了处处学习的优势。