arXiv cs.LG精选82

内核管理的共享记忆:面向全系统的个性化

Kernel-Managed Shared Memory for System-Wide Personalization

· 11天前

精选理由

提出内核管理的共享记忆,提升多智能体个性化,同时降低延迟、成本并强化隐私。

AI 摘要

arXiv:2609.10144v2 公告类型:替换交叉版本 摘要:AI 系统能够适应使用者后会变得更加实用,但在多智能体系统中,一个智能体学习到的有用上下文往往无法被其他智能体获取。我们提出了内核管理的共享记忆,这是一种系统级抽象:专用智能体写入结构化、带标签的记忆,而由智能体系统内核(而非各个智能体)负责检索、隐私实施和提示注入。我们在 AIOS 上实现并评估了这一设计,并在三个助手模型(GPT-4o、Llama-3.1:8B、Qwen-2.5:7B)和总计 1,800 次试验中,将其与三种替代方案进行了比较。与使用相同底层存储、但未受管理的外部记忆后端(Mem0)相比,内核管理的检索与注入使个性化得分在 5 分制上提高了 2.4–4.0 分(例如,在 GPT-4o 上,用户画像使用得分从 1.05 提升至 4.69),且每项比较的结果均具有显著性(p < 10^-18)。与标准的检索增强注入相比,在三个模型上获得的提升同样显著且稳定。与完整、未经筛选的上下文拼接相比,内核管理的注入在三个模型中的两个上表现出统计意义上的相当性能,在第三个模型上则存在幅度较小且特定于模型的性能差距;这里的限制是可用上下文的软上限,而非响应质量的上限,同时所使用的提示明显更短:三个模型的端到端延迟均降低了 15%–61%,单次调用的 token 使用量和推理成本也相应减少。这些结果表明,相较于将检索和隐私实施交由各个智能体负责,把记忆管理集中到智能体系统内核中,能够以其一小部分成本实现不受约束上下文所带来的大部分个性化收益。

查看原文(arXiv cs.LG)