制造业事件驱动的机器学习流水线编排:一份 AWS 行业实践报告
Event-Driven ML Pipeline Orchestration for Manufacturing: An AWS Industry Experience
精选理由
提供制造业事件驱动ML编排实践,显著降本并开源可复用基础设施。
AI 摘要
arXiv:2610.06890v1 公告类型:新 摘要:我们介绍了一份行业实践报告,内容涉及在汽车制造业中运营事件驱动型云基础设施,以支持持续的机器学习训练,历时三年。我们的系统在多个工厂间编排产品专用模型对的 GPU 加速训练,包括物理预测模型和强化学习控制策略,并协调由制造事件触发的长时间运行 GPU 工作负载。该架构结合了采用 EC2 GPU 容量提供商的 Amazon ECS、基于 SQS 且配备死信队列的消息传递机制,以及执行集群并发限制的准入控制 Lambda 调度器。运行于 ECS Fargate 上的 Conductor 编排器按每周计划启动感知依赖关系的再训练链。整个基础设施通过模块化 Terraform 进行代码化,并采用多账户隔离。基于 40000 多个生产训练任务,我们报告称,与始终运行的 GPU 基础设施相比,成本降低了 72%–78%。离散事件仿真证实,准入控制是必需的(朴素调度会导致 65% 的任务丢失),并且队列排空的延迟与 AWS Step Functions 相当,同时消除了每个任务的启动开销。我们总结了实践经验,并将仿真器和 Terraform 模块骨架作为开源成果发布。