一种用于共享状态联邦计算的类型化张量语言

arXiv:2605.21103v2 发布类型：替换 摘要：共享状态联邦计算结合了客户端本地张量计算、可合并到共享状态中的聚合，以及仅使用共享数据的后处理。我们为这类计算引入了一种类型化张量语言。该语言的两种张量类型将客户端分区数据与全局可用值分离开来，并通过类型追踪分区轴。虚拟全局张量作为集中式求值的语义参照。我们证明，类型化的单轮程序可以通过共享张量进行分解，这些共享张量的形状取决于程序，但与客户端数量和样本数量无关。对于类型可实现的分解，反向结论同样成立：每个编码器组件都由一种允许的聚合或收缩及其有效合并来表示，而解码器仅使用共享数据。对于持久状态为共享状态的程序，该构造可以逐轮扩展。对于配有客户端本地逐样本梯度表达式的损失函数，求和即可表示经验梯度。由此可以构造服务器端一阶更新的类型化程序，并结合共享线性代数实现曲率块更新。该语言涵盖联邦分析和 FedSGD。一般的多本地步骤 FedAvg 以及持久的私有客户端状态不在其范围之内。