增强压缩 AI 智能体记忆中的局部与全局结构

AI 智能体将文本存储为嵌入向量，并对其进行大规模压缩。当每个条目的最近邻得以保留时，压缩就被视为可接受；但智能体还会整合、删除和比较记忆，而这些任务依赖于哪些条目彼此相距较远。我们使用先前工作中的两种无标签保真度指标来评估这两个方面：基于 10 个近邻的局部保真度 $L$，以及覆盖记忆中 30% 至 50% 条目的全局保真度 $G$。在每段文本占用 96 字节的条件下，经过重新评分的二进制编码可达到 0.97 的 $L$，却使 10.1% 的段落转移到另一主题；采用 8 位编码的 PCA 的 $L$ 为 0.77，主题转移比例则为 1.7%。重新评分不会改变存储的编码，因此也不会改变 $G$。我们证明，在 $G$ 所覆盖的区间内，$1-ν_k$ 的上界为远近排序违反率平方根的 2 至 2.18 倍，且该违反率随压缩产生的距离噪声变化（相关系数为 0.979）。我们提出的局部性感知量化（LAQ）将这一界限转化为 OPQ 索引码本上的合页目标函数，同时保持其字节占用、旋转和搜索方式不变。据我们所知，LAQ 是首个目标函数源自远端保真度已证明界限的量化器。在 52 次留出测试运行中，仅优化重建未能在任何一次运行中提高 $G$；远端合页目标则在全部 52 次运行中都提高了 $G$。LAQ 在全部 52 次运行中均提高了 $G$（在 13 个记忆—编码器组上，$p=8.5\times 10^{-4}$），其中包括外部 FinDER 记忆；在全部 12 次 Multi-Doc-2025 运行中，LAQ 的 $G$ 在七种同等大小的量化器中均为最高；此外，LAQ 可扩展至百万段落规模，并保持证据召回率。