Grokking 中的子空间结晶：秩压缩追踪相变

Grokking 描述的是对某件事物深刻且直觉性的理解。在神经网络中，它指的是网络在记住训练数据很久之后才实现泛化的现象。这种延迟被认为与网络权重矩阵有效秩的下降有关，但这种秩压缩究竟推动了 Grokking，还是随 Grokking 而来，仍未解决。我们研究了在模运算上训练的平均场 MLP 和单层 transformer，并观察到以下现象：(i) 压缩发生在 Grokking 开始之后，而不是记忆之后。每个 transformer 都会在 250 步内记住其训练数据，而 Grokking 的开始时间（测试准确率首次达到 95% 的步数）则在 6,500 到 21,000 步之间变化。无论开始时间多晚，有效秩下降最陡峭的阶段都出现在开始时间约 900 步之后；而那些能够记忆但没有出现 Grokking 的网络，其压缩程度要小得多。(ii) 子空间结晶。我们将权重矩阵中能够保留 99% 测试准确率所需的最少数量的顶部奇异方向所张成的空间称为其充分子空间。随着正确输出与最佳错误输出之间的间隔增大，充分子空间的大小可能缩小，因此我们还统计了使输出保持在 10% 以内所需的方向数量。在 transformer 中，这一数量在相变过程中从可用方向的四分之一或更多下降到约十分之一，我们将其称为子空间结晶。(iii) 限制低秩并不会加快 Grokking。与因子化的满秩对照组相比，将 transformer 的 MLP 输入权重的秩设为上限会延迟 Grokking 的开始，而将其嵌入的秩设为上限则会使 20 次运行中的 15 次无法出现 Grokking。因此，压缩是 Grokking 的标志，而不是其原因。