系统内核管理的共享内存,用于全系统个性化
Kernel-Managed Shared Memory for System-Wide Personalization
精选理由
深度 91 / 可操作性 84,来自 arXiv cs.AI。
AI 摘要
当 AI 系统能够适应使用者时,其实用性会显著提升;但在多智能体系统中,一个智能体学习到的有用上下文往往无法被其他智能体获取。我们提出了内核管理的共享内存,这是一种系统级抽象:专用智能体写入结构化、带标签的记忆,而由智能体系统内核,而非各个智能体,负责检索、隐私执行和提示注入。我们在 AIOS 上实现并评估了这一设计,并在三种助手模型(GPT-4o、Llama-3.1:8B、Qwen-2.5:7B)和总计 1,800 次试验中,将其与三种替代方案进行了比较。与使用相同底层存储、但不受管理的外部记忆后端 Mem0 相比,内核管理的检索与注入使个性化得分在 5 分制上提高了 2.4–4.0 分(例如,在 GPT-4o 上,用户资料使用度从 1.05 提升至 4.69),且每项比较均达到显著水平(p < 10^-18)。与标准的检索增强注入相比,三种模型均获得了同样显著且一致的提升。与完整、未经筛选的上下文拼接相比,后者对可用上下文设置的是软上限,而非对响应质量设置上限;内核管理的注入在三种模型中的两种上表现出统计学上的相当水平,在第三种模型上则出现了轻微且与模型相关的性能不足,同时使用的提示显著更短:三种模型的端到端延迟均降低了 15%–61%,每次调用的 token 使用量和推理成本也相应减少。这些结果表明,将记忆管理集中于智能体系统内核,而不是将检索和隐私执行留给各个智能体,能够以其一小部分成本,实现大部分不受约束上下文所带来的个性化收益。