基于几何的有限特征联想记忆容量理论

arXiv:2610.09056v1 公告类型：new 摘要：我们为压缩的有限特征 Hebbian 联想记忆中的精确键检索建立了一套基于几何的容量理论。对于随机值或近似各向同性的值，检索干扰可分为有限特征噪声和结构性干扰：前者会随特征维度增加而减小，后者由已存储键之间的核重叠平方决定，并且在无限特征极限下仍然存在。由此，我们得到了无需拟合的检索质量预测，揭示了与几何结构相关的容量上限，并预测了达到目标检索质量所需的特征预算。当存储值彼此相关时，我们证明检索同时取决于键核和值 Gram 矩阵，并推导出能够解释这种交互作用的有限特征近似。我们在合成表示、视觉表示和医学图像表示上验证了该理论。总体而言，这一框架将表示几何与记忆容量直接联系起来，并区分了何时可以通过增加特征预算来改善性能，以及何时必须改变表示本身。在这些设置中，预测的检索曲线与经验行为高度吻合，并准确识别出首选记忆设计的变化。