CipherGenome：用于基因组混合专家模型的同态推理

arXiv:2609.35883v2 公告类型：replace-cross 摘要：基因组基础模型正逐渐发展为稀疏混合专家（MoE）网络，其专家权重已无法容纳在存储序列的机器上；然而，将私人基因组发送至租用的加速器会使其暴露：我们表明，一台托管单个专家的服务器能够以 99.8% 的 top-1 准确率恢复输入核苷酸。我们提出 CipherGenome，这是一种在可信瘦客户端上保留一个 15.1B 参数的 MoE 基因组模型的嵌入、注意力和路由器，并在 module-LWE 加密下，将每个专家投影（占全部参数的 95.8%）外包给不可信且可能串通的 GPU 服务器的协议。该设计利用了三个结构性事实：专家层位于两个 SwiGLU 门之间，属于线性变换；专家权重是公开的；GPU 整数张量核心能够在单次 GEMM 中，按模 $2^{48}$ 对密文—权重乘积进行精确计算。客户端精确计算非线性，并使用新生成的密钥重新加密，因此始终无需多项式近似或自举。在来自 12 个细菌基因组的 72 个窗口上，加密使每个 token 的 KL 散度增加 $2.54 \times 10^{-4}$ nats（95% CI 上限为 $3.95 \times 10^{-4}$），低于预注册的非劣效性界值；其结果与 bf16 推理无法区分，而同一反演攻击的效果则降至随机水平。可复用的公开提示将端到端延迟降低了 3.54 倍，链路压缩使流量减少 6.8 倍，逐层填充将路由泄露的准确率从 54.9% 降至 8.9%，并且与 HE 兼容的 int4 专家模型相较其明文对应模型仍具有非劣效性。按每个专家和每个 token 计算，服务器端成本比 CKKS 基线低六个数量级以上。