将逻辑与人设解耦:边缘端 LLM 智能体对上下文污染的结构性免疫
Decoupling Logic from Persona: Structural Immunity of Edge LLM Agents to Context Pollution
精选理由
将逻辑推理与人格表达分离,可减少长对话干扰,提升边缘设备智能体的稳定性并支持快速切换人格。
AI 摘要
边缘设备上的小型语言模型智能体必须在同一个充满对话历史和人设指令的上下文窗口内,同时维持人设并进行正确推理。我们研究了当对话历史冗长、具有误导性且充斥人设内容时,这类智能体的逻辑部分会受到什么影响(人设—逻辑干扰),并提出一种解耦架构(AO-DA):在一个配备可热切换 LoRA 适配器的 INT4 基础模型上,将逻辑推理(“做什么”)与人设表达(“如何表达”)分离为两条推理路径。逻辑路径仅接收当前轮次的核心内容,并输出可验证的结构化状态(Micro-State);人设路径则结合完整历史,以符合角色设定的方式呈现该状态。在 Apple M2 笔记本电脑上开展的同基础模型消融实验中(Llama-3.1-8B-Instruct 和 Gemma-3-4B-it,4 位量化;4 个污染级别 × 3 个实验组 × 2 项任务 × 2 种人设 × 5 个随机种子,共 480 次运行),我们发现:(i) 解耦后的逻辑路径在结构上不随污染程度变化:其提示词长度始终保持为 180(Llama)或 167(Gemma)个 token,而混合式单次推理的提示词长度从 242 增至 1,203 个 token;其输出在各污染级别下逐字节一致(40/40);(ii) 混合式单次推理的表现随污染程度增加而单调下降(Llama 的综合逻辑得分从 0.669 降至 0.150,Gemma 从 0.487 降至 0.150),主要原因是未能输出所要求的结构化内容(在最高的两个污染级别下,Llama 有 80–95% 的运行出现该问题,Gemma 则为 100%);(iii) 当向解耦后的逻辑路径输入相同污染内容时,采用专用适配器和专用格式的路径在 8B 模型上仍比单次推理更稳健(失败率为 0–20%,对比组为 80–95%;配对 $Δ$ 为 +0.30 至 +0.50,Cliff's $δ$ 为 0.50–0.85,Holm 校正后的 $p \le 0.03$),但在 4B 模型上并非如此,两种方式均告崩溃。分离的代价是在一个话题的首轮中增加一次解码(Llama 上为 28.2 秒,对比组为 18.2 秒),换来的能力是无需重新运行逻辑路径,即可在 1.7 毫秒内完成人设热切换。代码、评分标准、测试夹具、适配器和日志均已公开。