面向全双工语音模型的声学到文本 KV 压缩

全双工语音语言模型会持续累积声学键值（KV）状态，使长时间运行的交互占用大量内存。在聆听过程中，模型可以在下一个音频单元到达之前完成对当前音频单元的处理；我们将剩余的时间间隔称为聆听时间空隙。我们提出声学到文本 KV 压缩，引入一个转录侧通道，在该时间间隔内将传入语音转换为紧凑的文本记忆。当推理过程中缓存超过目标预算时，较早的声学状态会被驱逐，同时保留转录文本和近期声学上下文。我们使用 LoRA，通过转录片段上的交叉熵来训练该侧通道。为保留聆听和说话行为，我们在原生预测位置对原始模型的 token 级输出分布应用知识蒸馏。在十分钟的 LongSpeech 会话中，我们的 MiniCPM-o 4.5 实现相比未进行驱逐的同一模型，将峰值流式 KV 缓存大小降低了 64.6%。所提出的方法还相较基线提升了转录、时间问答和摘要能力。Full-Duplex-Bench 评估进一步显示，其在停顿处理、轮次交替和打断性能方面表现相当。