理解联邦世界模型学习中的轨迹异质性
Understanding Trajectory Heterogeneity in Federated World Model Learning
精选理由
揭示联邦世界模型中的轨迹覆盖与异质性,助力优化数据协作和长期预测。
AI 摘要
arXiv:2610.02957v1 公告类型:新发布 摘要:世界模型从轨迹中学习状态演化,因此获取时间上下文是训练的核心要求。联邦学习可以利用分布式记录,但轨迹内部的所有权边界限制了每个客户端能够构建的样本。本研究在这一跨时间场景下开展基准评测:基于八个 MIMIC-IV 疾病队列进行按小时、以动作为条件的临床预测,共包含 4087 万个转移归属记录。我们规定了基于严重程度的客户端所有权、按患者隔离的数据构建方式、本地历史与未来窗口规则,以及从 1 小时到 32 小时的成对滚动预测评估。由十种联邦算法组成的矩阵覆盖了 32 种疾病—分区配置,并进行五轮训练,每轮有 10% 的客户端参与。现有结果和训练日志揭示了三个发现。第一,客户端所有权与参与情况共同限制了长窗口覆盖率:在所有疾病上的平均值中,汇总可用的 32 步窗口里,只有 7.55%—21.36% 拥有一个在训练期间被访问过且本地完整的锚点。第二,在 16 组配对比较中的 15 组里,更细的严重程度分区都伴随着更高的 FedAvg 误差;与此同时,算法带来的改进幅度较小且取决于预测跨度:FedProx 将平均误差降低了 0.56%,但在 32 步时没有表现出一致的改进。第三,算法名称掩盖了不同的更新行为,包括无效外推以及更新尺度相差数个数量级。在相同基准协议下,缓存更新的性能也会随着轨迹分区的不同而显著变化。这些结果表明,时间访问、参与覆盖率、优化行为以及按预测跨度解析的预测性能,是评估联邦临床世界模型时相互补充的维度。