跳到正文
AWS Machine Learning Blog· Josh Longenecker·· 5 小时前AI 评分50

AWS 教程:在 Trainium 上用 torchtitan 训练 Qwen3

Train Qwen3 on AWS Trainium with torchtitan

AI 导读

AWS 教程演示如何通过标准 PyTorch 接口在 AWS Trainium 上使用 torchtitan 训练 Qwen3。教程在单个 trn2.48xlarge 上介绍 Transformers v5 后端、torchtitan 原生 Qwen3 和 NKI MoE 三种配置,并讲解通过 override 注册机制接入自定义 NKI 算子。

来源:AWS Machine Learning Blog · aws.amazon.com