环境准备与部署

注意

注意：本指南目前只适用于 M1000 AIBook 环境，需要 AIOS 1.5.0 操作系统。

AIBook AIOS 1.5.0 默认预装 Llama.cpp-MUSA-M1000 0.0.9171 运行环境。如需使用 Llama.cpp-MUSA-M1000 0.0.9252，需要先确认预装版本，再卸载旧版本并安装 0.0.9252 安装包。

Step1 确认操作系统版本

当前版本仅支持 AIOS 1.5.0。请先与设备提供方确认设备系统版本是否为 AIOS 1.5.0。

可在设置-关于-操作系统名称查看 AIOS 版本。

Step2 确认 MUSA 环境

执行 musaInfo，如果可以正常输出设备信息，说明 MUSA 环境可用。

Step3 查询预装版本

执行以下命令检查系统预装的软件包版本：

sudo dpkg -l | grep musa

AIOS 1.5.0 默认预装的 llama-cpp-musa 版本应为 0.0.9171，同时 MUSA 和 MUSA SDK 版本应满足以下要求：

ii  llama-cpp-musa                                 0.0.9171+musa.b9050p3.g3c7a0aa75                 arm64        llama.cpp with MUSA backend
ii  musa                                           5.2.1-M1000                                      arm64        Moore Threads MUSA driver [34b7fa81e]
ii  musa-sdk                                       5.1.2                                            arm64        Moore Threads MTGPU Software Development Kit

组件	版本
llama-cpp-musa	0.0.9171+musa.b9050p3.g3c7a0aa75
musa	5.2.1-M1000
musa-sdk	5.1.2

Step4 卸载预装 llama.cpp

执行以下命令卸载预装的 llama-cpp-musa：

sudo dpkg -P llama-cpp-musa

卸载完成后，执行以下命令确认 llama-cpp-musa 已不在已安装软件包列表中：

dpkg -l | grep llama-cpp-musa

如果命令没有输出，说明 llama-cpp-musa 已卸载。

Step5 安装 Llama.cpp-MUSA-M1000 0.0.9252

下载安装包

https://mt-ai-data.tos-cn-shanghai.volces.com/llama.cpp-musa/llama-cpp-musa_0.0.9252%2Bmusa.b9050p3%2Baios1.5.0.gaf51ba0a6_arm64.deb

安装包所在目录执行：

sudo dpkg -i llama-cpp-musa_0.0.9252+musa.b9050p3+aios1.5.0.gaf51ba0a6_arm64.deb

Step6 确认安装版本

执行以下命令检查安装后的软件包版本：

sudo dpkg -l | grep musa

正确输出应包含以下版本：

ii  llama-cpp-musa                                 0.0.9252+musa.b9050p3+aios1.5.0.gaf51ba0a6      arm64        llama.cpp with MUSA backend
ii  musa                                           5.2.1-M1000                                      arm64        Moore Threads MUSA driver [34b7fa81e]
ii  musa-sdk                                       5.1.2                                            arm64        Moore Threads MTGPU Software Development Kit

组件	版本
llama-cpp-musa	0.0.9252+musa.b9050p3+aios1.5.0.gaf51ba0a6
musa	5.2.1-M1000
musa-sdk	5.1.2

Step7 确认 llama-server

执行以下命令查看 llama-server 版本和 MUSA 设备识别情况：

llama-server --version

正常输出示例：

MUSA: found 1 device(s)
MUSA: device 0: M1000 (31.0 GB, compute 2.2, shared mem 72 KB)
MUSA: device 0: VMM supported (granularity 4096 bytes)
version: 9252 (af51ba0a6)
built with GNU 11.4.0 for Linux aarch64

如果 musaInfo、软件包版本或 llama-server --version 环境检测不通过，请联系客服或设备提供方确认系统镜像和预装环境。

打开性能模式（推荐,测试性能需开启）

界面右上角: 电源 -> 性能