跳到主要内容

TrainingSuite v2.1.7 发布说明

1. 公网镜像​

适用平台镜像地址说明
常规 x86(Intel 场景)registry.mthreads.com/mcctest/training-suite:v2.1.7可按本版本使用说明核对环境
Hygonregistry.mthreads.com/mcctest/training-suite:v2.1.7_hygon仅 torch_musa 已适配,训练相关仍在适配

Hygon 仅 torch_musa 已适配,训练相关仍在适配;Intel 与 Hygon 镜像不能混用。这些是 TrainingSuite 镜像,不是独立 PyTorch 基础镜像。

2. 运行环境​

本版本适用于常规 x86 与 Hygon 对应镜像,操作系统为 Ubuntu 22.04。

2.1 基础环境​

项目版本或说明
CPU 架构常规 x86 与 Hygon 分别使用对应镜像
操作系统Ubuntu 22.04
Python3.10
GPUMTT S5000

2.2 宿主机安装包​

类别组件版本对应文档
SW host 安装包MUSA Driver3.3.5MUSA SDK

2.3 MUSA 软件包​

组件版本对应文档
MUSA Toolkits4.3.8MUSA SDK
muDNN3.2.0MUSA SDK
MCCL2.1.5MUSA SDK

2.4 AI Infra 与分布式训练​

组件版本对应文档
torch_musa2.7.1Torch MUSA
Megatron-LM0.14.0MT-Megatron
TransformerEngine2.0.0MT-TransformerEngine
DeepSpeed0.17.2MT-DeepSpeed
MT-veRL0.8.0.dev0MT-veRL
MT-Slime依赖 Ray 2.54.0MT-Slime

2.5 MCC 框架​

组件版本对应文档
SGLang0.5.6.post2SGLang-MUSA
sgl-kernel0.3.19SGLang-MUSA
sglang-router0.1.9SGLang-MUSA
vLLM0.10.1.2.dev0vLLM-MUSA
vllm_musa0.1.dev401vLLM-MUSA

3. 更新与支持模型​

3.1 本版更新​

  • Slime 支持 Qwen3-30B-A3B、021-32B 的 32K 上下文训练,236B 完成 4K、32K 验证。
  • 合入 Megatron-LM MUSA Patch 相关改动,更新 SGLang、MT-Slime、MT-Verl、Megatron-LM、TransformerEngine、FlashAttention,并补充 Mooncake、SGLang Router 等依赖。

3.2 支持模型​

Qwen3-4B、Qwen3-8B、Qwen3-30B-A3B、021-32B、DeepSeek V2 Lite、DeepSeek V2、MoE 236B。

4. 下一步​