环境准备与部署
注意：本指南目前只适用于 M1000 AIBook 环境，需要 AIOS 1.4.0 或 AIOS 1.4.1 操作系统。
Step1 确认环境
确认操作系统版本
仅支持 AIOS 1.4.0 或 AIOS 1.4.1，请先和设备提供方确认设备系统版本。 可在设置-关于-操作系统名称查看AIOS版本
确认 musa 环境
执行 musaInfo，输出正常则环境配置正确。
确认 musa 和 musa-sdk 的版本号
请确认已安装的 musa 和 musa-sdk 版本是否符合要求：
- musa 版本号应为：
5.1.0-M1000 - musa-sdk 版本号应为：
5.1.0
执行以下命令检查版本：
sudo dpkg -l | grep musa
正确输出如下：
ii musa 5.1.0-M1000 arm64 Moore Threads MUSA driver [452f33695]
ii musa-sdk 5.1.0 arm64 Moore Threads MTGPU Software Development Kit
检查结果
- ✅ 版本正确：如果 musa 版本为
5.1.0-M1000且 musa-sdk 版本为5.1.0，仍需执行 Step2 下载并解压离线安装包以获取后续依赖文件，但无需重新安装 musa 和 musa-sdk，可跳过 Step3。 - ❌ 版本不正确：如果任一版本不符合要求，请先执行 Step2 下载安装包，再按照 Step3 更新 musa 和 musa-sdk。
Step2 下载安装包
wget -c https://mt-ai-data.tos-cn-shanghai.volces.com/vllm_musa/v1.3.2/release_M1000_1.4.0/20260425/release_1.4.0_ddk0425-vllm_musa_1.3.2-torch_2.9.tar.gz
tar zxvf release_1.4.0_ddk0425-vllm_musa_1.3.2-torch_2.9.tar.gz
cd release_1.4.0_ddk0425-vllm_musa_1.3.2-torch_2.9
Step3 更新 musa 和 musa-sdk
执行前提：只有在 Step1 中检查发现 musa 或 musa-sdk 版本不符合要求时，才需要执行本步骤。如果版本已正确，请跳过 Step3，直接进入后续环境安装。
安装脚本
##################### 首先卸载当前驱动 ######################
sudo dpkg -P musa-sdk
sudo dpkg -P musa # 输出 cryptsetup 的一些报错是正常的
sudo rm -rf /usr/local/musa*
##################### 安装新的驱动和 SDK ######################
sudo dpkg -i musa_5.1.0-M1000_arm64.deb
sudo dpkg -i musa-sdk_5.1.0-M1000_arm64.deb
##################### 重启电脑 ######################
sudo reboot
输出说明
输出 firmware 相关的报错是正常的，可以忽略。
卸载和安装过程中可能会看到一些警告信息，如 cryptsetup: ERROR: Couldn't resolve device /dev/root 等，这些是正常的，可以忽略。
安装完成后，系统会提示需要重启：
****************************************************************************
* WARNING: The system needs to be restarted for MUSA driver! *
****************************************************************************
请按照提示重启系统。
【可选】新建 conda 环境（推荐）
# 下载 Miniforge3 (默认带 Python 3.10) for Linux-aarch64
chmod +x Miniforge3-Linux-aarch64.sh
./Miniforge3-Linux-aarch64.sh
# 安装过程中需要输入 yes， 并回车确认安装路径，默认安装路径在 /home/$User 下
source ~/.bashrc
# 创建一个 python 3.10 的环境，安装过程中需要输入 y，并回车确认
conda create -n v1.3.2 python=3.10
conda activate v1.3.2
Step4 安装 torch musa
安装脚本
# 加代理提高 pip install 速度，当前环境执行一次即可
pip config set global.index-url https://mirrors.tuna.tsinghua.edu.cn/pypi/web/simple
pip install torch-2.9.0-cp310-cp310-linux_aarch64.whl
pip3 install torch_musa-2.9.0-cp310-cp310-linux_aarch64.whl
pip3 install torchaudio-2.9.0+eaa9e4e-cp310-cp310-linux_aarch64.whl
pip3 install torchvision-0.22.1+e98278b-cp310-cp310-linux_aarch64.whl
环境验证
输出 true 证明 torch_musa 环境安装正确：
python3 -c "import torch;import torch_musa;print(torch.musa.is_available())"
- 输出
mudnn.so找不到，执行：export PATH=/usr/local/musa/bin:${PATH}export LD_LIBRARY_PATH=/usr/local/musa/lib:${LD_LIBRARY_PATH} - 输出
Error in cpuinfo: prctl(PR_SVE_GET_VL) failed正常 - 如果 NumPy 报错，如
Failed to initialize NumPy或者numpy ModuleNotFoundError: No module named 'numpy'，执行pip3 install numpy==1.26.4 - 如果报错
ImportError: libmccl.so.2: cannot open shared object file: No such file or directory，需要重装 mccl，重装后直接执行这一步。流程参考 Step3 章节 - 如果报错
MUSA driver initialization failed，设备需要连接显示器，输入用户名密码进入桌面。如果没有安全需求，推荐在"设置"->"用户"界面设置为自动登录
Step5 安装相关依赖
安装脚本
# 安装过程中需要输入 y，并回车确认
sudo apt update
sudo apt install python3-pip git cmake wget build-essential g++ libstdc++-12-dev libnuma-dev
pip3 install -r requirements.txt
tar zxvf triton_musa_1.6.0.py310-M1000.tar.gz
cd bdist_wheel
pip3 install triton-3.2.0-cp310-cp310-linux_aarch64.whl
cd ..
Step6 安装 vllm musa
安装脚本
pip3 install vllm-0.9.2.dev261+g9ca43c53b.empty-py3-none-any.whl
pip3 install vllm_musa-1.3.2+m1000-cp310-cp310-linux_aarch64.whl
安装vllm_musa时出现依赖冲突，不影响后续模型推理
ERROR: pip's dependency resolver does not currently take into account all the packages that are installed. This behaviour is the source of the following dependency conflicts. datasets 4.6.1 requires pyarrow>=21.0.0, but you have pyarrow 20.0.0 which is incompatible. vllm 0.9.2.dev261+g9ca43c53b requires numpy==1.26.1, but you have numpy 1.26.4 which is incompatible.
环境验证
没有报错证明 vllm_musa 环境安装正确：
cd /home && python3 -c "from vllm_musa import _musa_custom_ops;_musa_custom_ops.decode_mla"
正常输出如下：
Error in cpuinfo: prctl(PR_SVE_GET_VL) failed
如果 NumPy 报错，如 Failed to initialize NumPy 或者 numpy ModuleNotFoundError: No module named 'numpy'，执行 pip3 install numpy==1.26.4
【可选】打开性能模式（推荐）
界面右上角: 电源 -> 性能
