ReForge：使用锚点正则化回归优化合并模型

arXiv:2605.12843v2 公告类型：替换 摘要：模型合并旨在将多个特定任务的专家模型组合成一个模型，而无需进行联合再训练；当数据访问受限或计算预算有限时，这为多任务学习提供了一种实用替代方案。现有模型合并方法很少利用性能强大的合并模型作为先验来进一步提升性能。为解决这一局限性，我们提出 ReForge，这是一种双层优化框架，将模块级优化表述为带有以锚点为中心先验的贝叶斯线性回归。内层利用无标签校准激活生成闭式 MAP 估计。外层则使用贝叶斯优化，结合留出验证数据，联合选择异质正则化强度和组装尺度。此外，我们还开发了 ReForge 的无数据变体，以任务向量 Gram 矩阵替代激活统计信息，从而无需校准样本。在广泛的基准测试中，包括视觉领域最多 20 任务的合并和语言领域最多 5 任务的合并，ReForge 始终优于所有评测的即插即用锚点基线方法（例如 TA、WUDI-Merging 和 TSV）。在 20 任务 ViT-B/32 上，ReForge 在有数据辅助设置下将评测中最强的基线 ISO-CTS 从 77.6% 提升至 82.8%，在无数据设置下提升至 81.5%。在 8 任务 ViT-L/14 上，有数据辅助变体达到了 95.1% 的平均准确率，而各单任务专家模型的平均准确率为 95.8%。我们的源代码即将发布。