AEGIS：面向多租户深度学习训练的运行时引导式 GPU 共置

arXiv:2508.19073v4 公告类型：replace-cross 摘要：深度学习训练通常在共享的多租户 GPU 服务器上运行，独占分配虽然能够提供隔离，但可能导致资源利用不足并增加排队时间。共置可以提高效率，但忽略干扰的放置策略可能造成严重减速，而不准确的显存信息则可能导致显存不足（OOM）故障。我们提出 AEGIS，这是一种服务器级运行时调度系统，用于在共享多 GPU 服务器上对深度学习训练工作负载进行受控共置。AEGIS 将显存可行性检查、放置后观测、运行时压力筛选、放置决策和 OOM 感知恢复整合到一个调度循环中。放置完成后，AEGIS 会先观测工作负载活动，再允许进一步共置，随后利用低开销遥测数据判断 GPU 能否安全承接更多任务。OOM 故障会触发在逐步更安全的显存条件下重试，最终回退至独占执行。这种在线方法避免了成本高昂的离线两两兼容性剖析。我们使用视觉、Transformer、推荐和 LLM 类工作负载，在三组源自生产环境的轨迹上评估 AEGIS。相较于 Lucid、Horus 和独占分配，AEGIS 分别将总完工时间的几何平均值降低了 16%、21% 和 27%。敏感性研究表明，以活动为锚点的观测和运行时压力筛选在保守隔离与忽略干扰的共置之间取得了平衡，在缩短总完工时间的同时，限制了共享所导致的单任务减速。