AWS Machine Learning Blog精选79

使用 torchtitan 在 AWS Trainium 上训练 Qwen3

Train Qwen3 on AWS Trainium with torchtitan

2026/10/22 04:00· 2小时前

精选理由

详解三种路径在AWS Trainium上训练Qwen3，助力高效落地。

AI 摘要

在单个 trn2.48xlarge 上，通过三种方式使用 torchtitan 训练 Qwen3：Hugging Face Transformers v5 建模后端、torchtitan 原生 Qwen3，以及 NKI 混合专家内核。这三种路径均可使用同一套 torchrun 启动器和配置结构，无需修改，包括加载和保存已发布的 Hugging Face safetensors。

查看原文（AWS Machine Learning Blog）