AURAL：面向语音语言模型的联合分块自适应潜在推理

arXiv:2610.01560v1 公告类型：cross 摘要：模型智能与快速响应共同决定了语音语言模型的交互质量，但二者仍难以兼得。显式思维链（CoT）能够提升推理和音频理解能力，但生成中间推理令牌会延迟响应。描述细粒度声学线索还会进一步延长CoT并增加延迟。潜在推理可以减少这一开销，但现有方法通常落后于CoT，并且受到单路径监督和无法根据问题难度自适应的推理预算限制。我们提出AURAL，在潜在空间中对多个合理的推理后续步骤建模其分布，并联合预测未来状态的分块结果，从而减少顺序前向传播次数和推理延迟。为潜在推理提供初始监督，我们构建了AuralReason-683K：包含683K条双语语音话语（约1,000小时），并为情感识别、共情对话和通用推理提供简洁的CoT。随后，AURAL-RL在这些推理轨迹之外进行探索，通过奖励能够产生高质量答案的简洁推理，并根据每个问题自适应地调整推理投入。在两个骨干模型上，AURAL-RL的性能与CoT-RL相当，并且在大多数指标上，相较于各自的监督训练检查点取得了更大提升。分析进一步表明，更难的问题会引发更多的潜在推理步骤。在Qwen2.5-Omni上，与直接回答的0.05秒相比，它将生成第一个答案令牌的时间从1.22秒缩短至0.10秒，提升了11.8倍。