相位核提升密集联想记忆的容量

arXiv:2610.21493v1 公告类型：新 摘要：密集联想记忆是现代注意力机制的基础；然而，采用线性核的现代Hopfield网络（MHNs）在高记忆负载下会产生重叠的吸引域和伪状态，从而限制了其理论上的指数级存储容量在实践中的表现。我们构造了一类非线性相位核，用于改变能量景观和检索动力学，并证明在核平滑性、记忆分离度和记忆分布满足特定条件时，这些核能够保持指数级存储容量和局部不动点收敛性。该框架通过Sigmoidal Phase Hopfield Network（S-Hop）加以实例化，保证能量单调下降，并缓解实际容量损失。在CIFAR-10和TinyImageNet上，与Uniform Hopfield Networks（U-Hop）相比，S-Hop在单步噪声检索负载方面分别实现了$8.3\times$和$4\times$的提升，并在ImageNet上实现了首次失效负载$50\times$的提升。结果表明，相位核为构建稳健的密集联想记忆提供了一条有理论依据的路径。