环境准备与部署

注意

注意：本指南目前只适用于 M1000 AIBook 环境，需要 AIOS 1.5.0 操作系统。

AIBook AIOS 1.5.0 已在系统环境中预装 vLLM-MUSA 1.4.2 运行环境，通常无需手动下载离线安装包，也无需重新安装 MUSA、MUSA SDK、PyTorch、torch_musa、triton、vLLM 或 vLLM-MUSA。首次使用前按本章节完成环境验证即可。

Step1 确认操作系统版本

仅支持 AIOS 1.5.0，请先和设备提供方确认设备是否为 AIOS 1.5.0。

可在设置-关于-操作系统名称查看 AIOS 版本。

Step2 确认 MUSA 环境

执行 musaInfo，输出正常则 MUSA 环境配置正确。

musaInfo

Step3 确认 MUSA 和 MUSA SDK 版本

执行以下命令检查系统预装的 MUSA 和 MUSA SDK 版本：

sudo dpkg -l | grep musa

正确输出应包含以下版本：

ii  musa                                           5.2.1-M1000                                      arm64        Moore Threads MUSA driver [34b7fa81e]
ii  musa-sdk                                       5.1.2                                            arm64        Moore Threads MTGPU Software Development Kit

组件	版本
musa	5.2.1-M1000
musa-sdk	5.1.2

如果版本信息不一致，或 musaInfo 无法正常输出，请联系客户服务或设备提供方确认系统镜像和预装环境。

Step4 确认 torch、triton 和 vLLM-MUSA 环境

确认 torch_musa

输出 true 表示 torch_musa 环境可用：

python3 -c "import torch;import torch_musa;print(torch.musa.is_available())"

确认 triton

执行以下命令确认 triton 可正常导入并输出版本：

python3 -c "import triton;print(triton.__version__)"

确认 vLLM-MUSA

没有报错表示 vLLM-MUSA 环境可用：

cd /home && python3 -c "from vllm_musa import _musa_custom_ops;_musa_custom_ops.decode_mla"

仅输出以下 cpuinfo 提示也属于正常情况：

Error in cpuinfo: prctl(PR_SVE_GET_VL) failed

如果 torch、triton 或 vLLM-MUSA 环境检测不通过，请联系客户服务或设备提供方确认系统镜像和预装环境。

【可选】打开性能模式（推荐）

界面右上角: 电源 -> 性能