arXiv cs.LG精选76

Apriel Voice 27B Preview:面向语音、推理与工具使用的开放模型

Apriel Voice 27B Preview: An Open Model for Speech, Reasoning, and Tool Use

· 1小时前

精选理由

该开源模型融合语音理解、推理与工具调用,为构建低延迟交互式语音助手提供新方案。

AI 摘要

arXiv:2610.40738v1 公告类型:交叉收录 摘要:一个能力出色的语音助手不能仅仅识别词语;它还必须理解请求、结合上下文进行推理、维持对话,并通过工具执行操作。我们推出 Apriel Voice 27B Preview,这是一个开放的语音语言模型,在共享的推理骨干网络中统一了这些能力,同时保留了文本和图像输入模态。Apriel Voice 基于经过后训练的 Gemma 4 26B-A4B 检查点构建,可直接处理语音并生成回复和工具调用,无需单独的对话模型。我们引入了一个两阶段训练流程,使模型适应语音任务。第一阶段建立语音接口,第二阶段则通过监督微调、文本回放,以及依赖数据来源的交叉熵和前向 Kullback--Leibler 散度监督,联合调整投影器与骨干网络。自动构建的以语音为条件的对话提供了对话训练数据,而本地教师模型服务、教师与学生模型计算的重叠执行,以及融合的全词表损失计算,则实现了高效的在线蒸馏。在思考模式下,Apriel Voice 在 Big Bench Audio 上获得 98.90 分,在 Speech-BFCL 上获得 81.13 分,在 $\tau$-Voice 上达到 65.51% 的任务成功率,平均延迟为 1.91 秒。它还实现了 51.27% 的英语 EVA 准确率和 74.13% 的体验 pass@1。最后,我们将 Apriel Voice 27B Preview 部署在定制的推理服务平台上,以支持交互式语音交互。

查看原文(arXiv cs.LG)