SeedFlood：迈向可扩展的LLM去中心化微调

arXiv:2602.18181v2 公告类型：替换 摘要：本文介绍了SeedFlood，这是一种新的去中心化LLM微调方法，旨在跨越大型模型、大规模协作和复杂网络拓扑实现扩展，同时以可忽略不计的通信开销达成全局共识。传统方法面临着随模型规模增长而增加的高昂通信成本，而跨网络跳数的信息衰减使全局共识效率低下。SeedFlood通过利用零阶梯度可由种子重构的结构，显著不同于这些传统做法，并将需要传输的消息有效压缩至近乎零的大小，使其能够泛洪至网络中的每个客户端，从而提升去中心化训练的可扩展性。因此，SeedFlood能够支持此前被认为难以实现的训练场景，例如在十亿参数规模的模型上进行训练，或将训练分布到数百个客户端上。我们在去中心化LLM微调上的实验表明，SeedFlood在通信效率和泛化性能方面始终优于标准零阶基线；在大规模设置下，其结果甚至可与基于一阶梯度的gossip方法相媲美，同时所需通信成本低了数个数量级。我们还提供了理论分析，形式化证明SeedFlood在保留因增加客户端参与度而带来的加速效果的同时，避免了收敛界中依赖网络拓扑的共识项。