环境准备与部署

注意

注意：本指南目前只适用于 M1000 AIModule 环境，需要 AIOS 1.4.1 操作系统。

Step1 确认环境

确认操作系统版本

当前版本仅支持 AIOS 1.4.1。安装前请先与设备提供方确认设备系统版本是否为 AIOS 1.4.1。

确认 MUSA 环境

执行 musaInfo，如果可以正常输出设备信息，说明 MUSA 环境可用。

musaInfo

musaInfo 输出示例

确认 musa 和 musa-sdk 的版本号

请确认当前设备已安装的 musa 和 musa-sdk 版本符合要求：

musa 版本号：5.1.1-M1000
musa-sdk 版本号：5.1.1

执行以下命令检查版本：

sudo dpkg -l | grep musa

正确输出示例：

ii  musa                                       5.1.1-M1000                              arm64        Moore Threads MUSA driver [e29787e05]
ii  musa-sdk                                   5.1.1                                    arm64        Moore Threads MTGPU Software Development Kit

检查结果

版本正确：如果 musa 版本为 5.1.1-M1000，且 musa-sdk 版本为 5.1.1，仍需执行 Step2 下载并解压离线安装包，以获取后续依赖文件；但无需重新安装 musa 和 musa-sdk，可跳过 Step3。
版本不正确：如果任一版本不符合要求，请先执行 Step2 下载安装包，再按照 Step3 更新 musa 和 musa-sdk。

Step2 下载安装包

wget https://mt-ai-data.tos-cn-shanghai.volces.com/llama.cpp-musa/llama-cpp-musa_0.0.9171+musa.b9050p3.g3c7a0aa75_arm64.deb

Step3 更新 musa 和 musa-sdk

仅当 Step1 检查发现 musa 或 musa-sdk 版本不符合要求时，才需要执行本步骤。如果版本已正确，请跳过 Step3，继续后续环境安装。

安装脚本

##################### 首先卸载当前驱动 ######################
sudo dpkg -P musa-sdk
sudo dpkg -P musa # 输出 cryptsetup 的一些报错是正常的
sudo rm -rf /usr/local/musa*

##################### 安装新的驱动和 SDK ######################
wget https://mt-ai-data.tos-cn-shanghai.volces.com/vllm_musa/v1.4.1/release_M1000_1.4.0/0522ddk_0430sdk_mcc410/20260609_M1000_1.4.0_ddk0522_0430sdk_mcc410-vllm_musa_1.4.1-torch_2.9/musa_5.1.1-M1000_arm64.deb
wget https://mt-ai-data.tos-cn-shanghai.volces.com/vllm_musa/v1.4.1/release_M1000_1.4.0/0522ddk_0430sdk_mcc410/20260609_M1000_1.4.0_ddk0522_0430sdk_mcc410-vllm_musa_1.4.1-torch_2.9/musa-sdk_5.1.1_arm64.deb
sudo dpkg -i musa_5.1.1-M1000_arm64.deb
sudo dpkg -i musa-sdk_5.1.1_arm64.deb

##################### 重启电脑 ######################
sudo reboot

输出说明

卸载和安装过程中可能出现 cryptsetup: ERROR: Couldn't resolve device /dev/root 等警告信息，这类信息可以忽略。

安装完成后，如果系统提示需要重启，请按照提示重启系统：

****************************************************************************
*   WARNING: The system needs to be restarted for MUSA driver!             *
****************************************************************************

Step5 安装相关依赖

安装脚本

Llama.cpp-MUSA-M1000 构建依赖 CMake 和 GCC/G++ 工具链。需要安装 CMake 3.14 至 3.28 之间的版本，并使用 g++-12 作为 C++ 编译器。

sudo apt update
sudo apt install cmake

sudo apt install g++-12 libstdc++-12-dev

Step6 安装 Llama.cpp-MUSA-M1000

安装脚本

sudo dpkg -i llama-cpp-musa_0.0.9171+musa.b9050p3.g3c7a0aa75_arm64.deb
export LD_LIBRARY_PATH=/usr/local/musa/lib:$LD_LIBRARY_PATH

环境验证

执行以下命令查看 llama-server 版本和 MUSA 设备识别情况：

llama-server --version

正常输出示例：

MUSA: found 1 device(s)
MUSA: device 0: M1000 (62.0 GB, compute 2.2, shared mem 72 KB)
MUSA: device 0: VMM supported (granularity 4096 bytes)
version: 9171 (64e116398)
built with GNU 11.4.0 for Linux aarch64

〖可选〗打开性能模式（推荐）

For T035 开发板

From 界面（推荐）

在桌面右上角电源菜单中选择性能模式。

From 命令行

先切换到 root 权限：

sudo su

High Performance（性能模式）

echo 1 > /sys/devices/system/cpu/cpu8/online
echo 1 > /sys/devices/system/cpu/cpu9/online
echo 1 > /sys/devices/system/cpu/cpu10/online
echo 1 > /sys/devices/system/cpu/cpu11/online
echo performance > /sys/devices/system/cpu/cpufreq/policy0/scaling_governor
echo performance > /sys/devices/system/cpu/cpufreq/policy4/scaling_governor
echo performance > /sys/devices/system/cpu/cpufreq/policy8/scaling_governor
echo perf > /sys/kernel/debug/musa/gpu00/dvfs_mode
echo performance > /sys/class/thermal/thermal_zone6/perf_mode

Balance Mode（平衡模式）

echo 1 > /sys/devices/system/cpu/cpu8/online
echo 1 > /sys/devices/system/cpu/cpu9/online
echo 1 > /sys/devices/system/cpu/cpu10/online
echo 1 > /sys/devices/system/cpu/cpu11/online
echo ondemand > /sys/devices/system/cpu/cpufreq/policy0/scaling_governor
echo ondemand > /sys/devices/system/cpu/cpufreq/policy4/scaling_governor
echo ondemand > /sys/devices/system/cpu/cpufreq/policy8/scaling_governor
echo normal > /sys/kernel/debug/musa/gpu00/dvfs_mode
echo balance > /sys/class/thermal/thermal_zone6/perf_mode

Power Saving（节电模式）

echo powersave > /sys/devices/system/cpu/cpufreq/policy0/scaling_governor
echo powersave > /sys/devices/system/cpu/cpufreq/policy4/scaling_governor
echo powersave > /sys/devices/system/cpu/cpufreq/policy8/scaling_governor
echo normal > /sys/kernel/debug/musa/gpu00/dvfs_mode
echo powersave > /sys/class/thermal/thermal_zone6/perf_mode
echo 0 > /sys/devices/system/cpu/cpu8/online
echo 0 > /sys/devices/system/cpu/cpu9/online
echo 0 > /sys/devices/system/cpu/cpu10/online
echo 0 > /sys/devices/system/cpu/cpu11/online

For 天思盒子

From 界面（推荐）

在桌面右上角电源菜单中选择性能模式。

From 命令行

性能模式

#!/bin/sh
sudo busybox devmem 0x280FD200 32 2650
sudo busybox devmem 0x280FD218 32 2650
sudo busybox devmem 0x280FD230 32 2650
sudo busybox devmem 0x280FD248 32 1500

非性能模式

#!/bin/sh
sudo busybox devmem 0x280FD200 32 1700
sudo busybox devmem 0x280FD218 32 1700
sudo busybox devmem 0x280FD230 32 1700
sudo busybox devmem 0x280FD248 32 730

compute_only模式

适用场景

设备作为服务器运行，不需要本地图形桌面显示，希望切换为纯计算用途。
需要避免 gdm3、xorg 等图形进程占用设备资源，减少图形桌面对性能的影响。

设置方法

下载脚本：

wget https://mt-ai-data.tos-cn-shanghai.volces.com/llama.cpp-musa/tools/enable_compute_only.sh

开启 compute_only 模式：

sudo ./enable_compute_only.sh enable

关闭 compute_only 模式：

sudo ./enable_compute_only.sh disable

Step1 确认环境​

确认操作系统版本​

确认 MUSA 环境​

确认 musa 和 musa-sdk 的版本号​

检查结果​

Step2 下载安装包​

Step3 更新 musa 和 musa-sdk​

安装脚本​

输出说明​

Step5 安装相关依赖​

安装脚本​

Step6 安装 Llama.cpp-MUSA-M1000​

安装脚本​

环境验证​

〖可选〗打开性能模式（推荐）​

For T035 开发板​

From 界面（推荐）​

From 命令行​

For 天思盒子​

From 界面（推荐）​

From 命令行​

compute_only模式​

适用场景​

设置方法​

这篇文章对您有帮助吗？

Step1 确认环境

确认操作系统版本

确认 MUSA 环境

确认 musa 和 musa-sdk 的版本号

检查结果

Step2 下载安装包

Step3 更新 musa 和 musa-sdk

安装脚本

输出说明

Step5 安装相关依赖

安装脚本

Step6 安装 Llama.cpp-MUSA-M1000

安装脚本

环境验证

〖可选〗打开性能模式（推荐）

For T035 开发板

From 界面（推荐）

From 命令行

For 天思盒子

From 界面（推荐）

From 命令行

compute_only模式

适用场景

设置方法