RegionFed：用于异构零售环境中个性化查询理解的联邦学习

零售搜索系统服务于不同地理区域，这些区域具有不同的查询模式、词汇和产品偏好，造成显著的数据异质性，对隐私保护训练和模型个性化都提出了挑战。联邦学习为隐私提供了自然的解决方案，但标准 FL 方法会生成牺牲区域性能的全局模型；而现有的个性化 FL 方法在参数层面上运行，并由于绑定嵌入和 LayerNorm 之间的交互，在现代 transformer 上会灾难性崩溃（在 T5 上准确率低于 10\%）。我们提出 RegionFed，这是一种 \textit{architecture-robust} 的联邦学习框架，通过完全在梯度层面上运行来规避这一失败。RegionFed 将区域梯度与全局梯度之间的 $\ell_2$ 冲突作为统一信号，用于：(i) 诊断异质性，(ii) 将每个区域路由到成本最低且足够的个性化策略，(iii) 自适应控制个性化强度。由于它将模型视为可微分的黑盒，RegionFed 可在无需任何代码修改的情况下部署到 T5-Small、T5-3B、RoBERTa 和 CNN 上，在 transformer 上带来显著提升（参数级方法在此会崩溃），并在 CNN 上提供稳定改进。在三个公开数据集（Amazon ESCI、Amazon Reviews、LEAF-FEMNIST）和四种架构上，RegionFed-Meta 达到 92.27\%，将其与违反隐私的集中式上界（Centralized + Regional Weighting：92.04\%，$Δ$=0.23 个百分点，位于 1$σ$ 内）的差距缩小，同时提供 $(ε{\approx}0.60)$-差分隐私和 $\mathcal{O}(1/\sqrt{T})$ 收敛性。