全量微调网络中无需重放的海马体巩固

持续学习的网络会覆盖已有知识。主流解决方案包括重放存储的数据、从旧模型中蒸馏知识，或冻结骨干网络。大脑提示了一种不同的分工方式：海马体索引经验在皮层中的存储位置，而皮层则持续学习。我们表明，这种分工使全参数可训练的网络能够在无需跨任务重放、教师模型或推理时记忆的情况下持续学习。每个任务结束后，仅在训练阶段使用的海马体记忆会为每组共享输入的突触建立输入几何结构索引，其中也包括残差能量，并在优化器更新前后限制每个突触沿各个方向的变化幅度。这种不依赖类别的几何结构提供了大部分保护；在此基础上加入冲突检测后，与所有对比方法相比，该方法将已有类别被近似重复类别吸收的程度降低至几分之一。据我们所知，这是首次证明同一原理能够让涵盖四类架构、参数规模最高达80亿的模型保持全网络持续学习。冻结骨干网络的方法，其有效性受限于已有表征区分类别的能力；而在这里，整个网络持续学习如何区分近似重复类别，在TACRED上领先冻结骨干网络的基线17.5个百分点。没有这种记忆，许多旧知识仍可被解码，却已无法被网络调用。