跳到主要内容

TrainingSuite v2.1.6 发布说明

1. 公网镜像​

适用平台镜像地址说明
常规 x86registry.mthreads.com/mcctest/training-suite:v2.1.6可按本版本使用说明核对环境
Hygon不适用本版本仅支持 x86_64

本版公网路径为 mcctest/training-suite,不同于较早版本的 mcctest/ai/training-suite。

2. 运行环境​

本版本按 x86_64 + Ubuntu 22.04 环境使用。

2.1 基础环境​

项目版本或说明
CPU 架构仅 x86_64
操作系统Ubuntu 22.04
Python3.10
GPUMTT S5000

2.2 宿主机安装包​

类别组件版本对应文档
SW host 安装包MUSA Driver3.3.5(对应 MUSA SDK 4.3.5)MUSA SDK

2.3 MUSA 软件包​

组件版本对应文档
MUSA Toolkits4.3.5MUSA SDK
muDNN3.2.0MUSA SDK
MCCL2.1.5MUSA SDK

2.4 AI Infra 与分布式训练​

组件版本对应文档
torch_musa2.7.1Torch MUSA
Megatron-LM0.14.0MT-Megatron
TransformerEngine2.0.0MT-TransformerEngine
DeepSpeed0.17.2MT-DeepSpeed
MT-veRL0.8.0.dev0MT-veRL
MT-Slime依赖 Ray 2.54.0MT-Slime

2.5 MCC 框架​

组件版本对应文档
SGLang0.5.6.post2SGLang-MUSA
sgl-kernel0.3.19SGLang-MUSA
sglang-router0.1.9SGLang-MUSA
vLLM0.10.1.2.dev0vLLM-MUSA
vllm_musa0.1.dev401vLLM-MUSA

3. 更新与支持模型​

3.1 本版更新​

  • Slime 验证 Qwen3-30B-A3B、021-32B 的 32K 上下文及 236B 的 4K、32K 上下文训练,发布资料报告 reward 正常上涨。
  • 合入 Megatron-LM MUSA Patch,更新 SGLang、MT-Slime、MT-Verl、Megatron-LM、TransformerEngine、FlashAttention,并补充 Mooncake、SGLang Router 等依赖。

3.2 支持模型​

Qwen3-4B、Qwen3-8B、Qwen3-30B-A3B、021-32B、DeepSeek V2 Lite、DeepSeek V2、MoE 236B。

4. 下一步​