SafeStart：缓解 MoE 大语言模型推理服务中减少活跃专家数量所带来的被忽视的安全代价

arXiv:2611.06147v1 公告类型：交叉发布 摘要：混合专家（MoE）语言模型将每个词元送入众多专家子网络中的少数几个进行处理。推理服务方法通过进一步减少每个词元所调用的专家数量来加速这些模型，并在准确率基准上进行验证。我们表明，这些方法可能削弱模型拒绝有害请求的能力，并提出 SafeStart，在保留大部分加速收益的同时，大幅恢复拒绝能力。在单张 RTX A6000 上使用 vLLM 时，保留约三分之二的已选专家，可在批大小为 8 时将离线解码速度提升 15% 至 28%。我们发现，在这一设置下，当遭遇要求模型不得拒绝的越狱攻击时，模型回答有害请求的比例在 Qwen1.5-MoE 上增加了 18.4 个百分点，在 OLMoE 上增加了 9.5 个百分点，在 DeepSeek-V2-Lite 上增加了 6.6 个百分点；这三个模型是所测试的九个模型中该比例显著上升的模型，而其 MMLU 准确率下降均不足两个百分点。我们发现，这一增幅大多产生于模型处理提示词及生成最初几个词元的阶段。因此，SafeStart 在处理提示词和生成前八个词元时运行所有专家，之后再运行缩减后的专家集合，并通过 vLLM 中的融合内核实现。在移除部分专家的情况下，SafeStart 在批大小为 8 和 32 时保留了至少 85% 的离线解码加速收益，并在这三个模型上，使三种专家缩减方法在上述越狱攻击下的有害请求回答比例变化降至 -2.1 至 +1.3 个百分点。在针对 889 条留出请求、且分析方案在生成前已确定的评估中，截断使有害请求服从率上升了 5.8 至 21.4 个百分点，而使用 SafeStart 后仅上升 0.6 至 2.6 个百分点，并在三个模型中的两个上达到相对于原始模型的非劣效性。我们的结果表明，更快的 MoE 推理服务不必以安全性为代价：推理服务系统可以在每次回答开始时运行所有专家，从而保留减少专家运行数量所带来的大部分收益；在启用此类方法之前，系统应测试模型的拒绝能力，而不只是准确率。