跳到主要内容

TrainingSuite 快速开始

本文以 v2.2.0 为例,说明如何选择公网镜像、启动容器并确认实际的软件栈。其他版本请先查看版本对照。

1. 选择镜像​

运行平台镜像使用边界
Intel/AMD 平台registry.mthreads.com/mcconline/training-suite:v2.2.0Linux Driver 3.3.10、MUSA SDK 4.3.10;集成适配后的训练框架
Hygon 平台registry.mthreads.com/mcconline/training-suite:v2.2.0_hygon软件栈版本和训练框架支持范围与 Intel/AMD 镜像一致

以下 Docker 命令使用 Intel/AMD 标签作为示例。Hygon 环境应使用表中的 Hygon 标签,两类镜像不能混用。这些地址表示 TrainingSuite 镜像已发布,不是独立 PyTorch base 镜像的发布清单。

2. 拉取并启动​

以下命令在 Docker 宿主机执行:

docker pull registry.mthreads.com/mcconline/training-suite:v2.2.0

启动示例:

docker run --rm -it \
--runtime=mthreads \
--privileged \
--network=host \
--shm-size=64g \
-e MTHREADS_VISIBLE_DEVICES=all \
-v /data:/data \
registry.mthreads.com/mcconline/training-suite:v2.2.0 \
/bin/bash

/data 会映射到容器内同名目录。模型、数据集和训练输出统一放在 /data 下,便于跨容器复用。容器启动参数仍需与宿主机驱动、MUSA Container Toolkit 和实际资源配置匹配。

3. 验证实际环境​

进入容器后执行:

mthreads-gmi
cat /usr/local/musa/version.json
python3 - <<'PY'
import torch
import torch_musa
import torchaudio
import torchvision
import transformers

print("PyTorch:", torch.__version__)
print("torch_musa:", torch_musa.__version__)
print("torchvision:", torchvision.__version__)
print("torchaudio:", torchaudio.__version__)
print("Transformers:", transformers.__version__)
print("MUSA available:", torch.musa.is_available())
print("MUSA device count:", torch.musa.device_count())
PY

检查 Llama-Factory 集成目录与版本:

ls /home/llama-factory-musa-profile
ls /home/llama-factory-musa-profile/scripts
cd /home/llama-factory-musa-profile
source env.sh
llamafactory-cli version

若镜像中没有 /usr/local/musa/version.json,请使用镜像实际提供的 SDK 版本查询文件或命令。本文的快速检查覆盖 Linux Driver 3.3.10、MUSA SDK 4.3.10、Python 3.12、PyTorch / torch_musa 2.9.0.post1、torchvision 0.22.1、torchaudio 2.7.1 和 Transformers 5.16.1;完整组件版本见发布说明。实际安装版本与发布矩阵不一致时,先停止训练并核对镜像标签。

4. 下一步​