从热带几何看遗忘：用于知识保持微调的逐单元投影器

在新文本上对语言模型进行微调，会削弱它原有的能力。无需回放的投影器（如 Adam-NSCL 和 GPM）会在更新的每一行中排除层输入的同一个共享子空间。ReLU 层的热带几何揭示了这种做法为何过于粗糙。在数据空间中，各单元的边界是热带超曲面，其胞腔与 zonotope 的上顶点对偶；在权重空间中，每个旧词元对应一个超平面，这些词元切出一个多面体，即能够使每个词元保持在其所在侧的权重集合的闭包。一个精确恒等式将这两种图景联系起来：在任意权重变化下，层输出变化的平方可分解为胞内、开放到闭合以及闭合到开放三项，而前两项只涉及每个单元所激活的词元。该恒等式给出了一个门控感知的逐单元投影器；预算分离定理则刻画了精确保护的代价：对每个单元而言，代价是其自身开放词元的秩，而共享子空间在每一行中至少要付出这些词元并集的秩。在 OPT-1.3b 上，96% 的（词元，单元）对处于闭合状态；在每行约束 9 至 60 个方向的六个匹配预算下，该投影器的遗忘程度始终低于 Adam-NSCL，差距从 1.1× 扩大到 4.3×；仅使用 1/5.5 的方向数时，在 GPM 的能量阈值下，其遗忘程度便可减半于 Adam-NSCL。在 OPT-6.7b 上，在匹配预算下，它的遗忘程度与 Adam-NSCL 相当，但学习效果更好。正如理论所预测的那样，真正起作用的变量是开放/闭合划分：在 18 对种子中，它所选的开放词元集在全部 18 对上都优于随机词元集、不考虑符号的词元集和反门控词元集。在剪枝修复中，基于导数的、以稠密权重处输出误差为对象的任何局部模型，都无法感知会开启的词元-单元对：门控加权目标的极小值可能离开该多面体；在 OPT-1.3b 上，该目标的闭式解比不进行修复差 1.94 nats；而一个凸的单侧惩罚项可以限制这种逸出。