环境准备与部署
注意:本指南目前只适用于 M1000 AIBook 环境,需要 AIOS 1.5.0 或 1.6.0 操作系统。
AIBook AIOS 1.6.0 已在系统环境中预装 Llama.cpp-MUSA-M1000 0.0.9252 运行环境,通常无需手动下载或安装 Llama.cpp-MUSA-M1000、MUSA 和 MUSA SDK。首次使用前按以下步骤完成环境验证即可。
AIBook AIOS 1.5.0 默认预装 Llama.cpp-MUSA-M1000 0.0.9171。如需使用 0.0.9252,请参阅本章节后面的“AIOS 1.5.0 升级到 0.0.9252”。
Step1 确认操作系统版本
以下预装环境验证步骤主要针对 AIOS 1.6.0。请先确认设备系统版本为 AIOS 1.6.0;AIOS 1.5.0 用户请参阅后面的升级步骤。
可在设置-关于-操作系统名称查看 AIOS 版本。
Step2 确认 MUSA 环境
执行 musaInfo,如果可以正常输出设备信息,说明 MUSA 环境可用。
musaInfo
Step3 确认 musa、musa-sdk 和 llama.cpp 版本
执行以下命令检查系统预装的软件包版本:
sudo dpkg -l | grep musa
AIOS 1.6.0 默认预装环境的输出应包含以下版本:
ii llama-cpp-musa 0.0.9252+musa.b9050p3.gaf51ba0a6 arm64 llama.cpp with MUSA backend
ii musa 5.3.0-M1000 arm64 Moore Threads MUSA driver [b5509fce5]
ii musa-sdk 5.2.1 arm64 Moore Threads MTGPU Software Development Kit
| 组件 | 版本 |
|---|---|
llama-cpp-musa | 0.0.9252+musa.b9050p3.gaf51ba0a6 |
musa | 5.3.0-M1000 |
musa-sdk | 5.2.1 |
Step4 确认 llama-server
执行以下命令查看 llama-server 版本和 MUSA 设备识别情况:
llama-server --version
正常输出示例:
MUSA: found 1 device(s)
MUSA: device 0: M1000 (31.0 GB, compute 2.2, shared mem 72 KB)
MUSA: device 0: VMM supported (granularity 4096 bytes)
version: 9252 (af51ba0a6)
built with GNU 11.4.0 for Linux aarch64
如果 musaInfo、软件包版本或 llama-server --version 环境检测不通过,请联系客服或设备提供方确认系统镜像和预装环境。
打开性能模式(推荐,测试性能需开启)
界面右上角: 电源 -> 性能
AIOS 1.5.0 升级到 0.0.9252
AIBook AIOS 1.5.0 默认预装 Llama.cpp-MUSA-M1000 0.0.9171。如需使用 0.0.9252,请先确认系统版本为 AIOS 1.5.0,执行 musaInfo 检查 MUSA 环境,再查询当前软件包版本:
sudo dpkg -l | grep musa
默认预装环境的输出应包含:
ii llama-cpp-musa 0.0.9171+musa.b9050p3.g3c7a0aa75 arm64 llama.cpp with MUSA backend
ii musa 5.2.1-M1000 arm64 Moore Threads MUSA driver [34b7fa81e]
ii musa-sdk 5.1.2 arm64 Moore Threads MTGPU Software Development Kit
已安装 0.0.9252 时无需重复安装;已安装 0.0.9171 或其他旧版本时,按以下步骤先卸载再安装;尚未安装时,直接执行安装步骤。
1. 卸载旧版 llama.cpp
执行以下命令卸载预装的 llama-cpp-musa:
sudo dpkg -P llama-cpp-musa
卸载完成后,执行以下命令确认 llama-cpp-musa 已不在已安装软件包列表中:
dpkg -l | grep llama-cpp-musa
如果命令没有输出,说明 llama-cpp-musa 已卸载。
2. 安装 Llama.cpp-MUSA-M1000 0.0.9252
下载安装包
https://mt-ai-data.tos-cn-shanghai.volces.com/llama.cpp-musa/llama-cpp-musa_0.0.9252%2Bmusa.b9050p3%2Baios1.5.0.gaf51ba0a6_arm64.deb
安装包所在目录执行:
sudo dpkg -i llama-cpp-musa_0.0.9252+musa.b9050p3+aios1.5.0.gaf51ba0a6_arm64.deb
3. 确认安装版本
执行以下命令检查安装后的软件包版本:
sudo dpkg -l | grep musa
安装后的 llama-cpp-musa 版本应为 0.0.9252。以下为 AIOS 1.5.0 环境的输出示例,MUSA 和 MUSA SDK 版本以设备系统提供的版本为准:
ii llama-cpp-musa 0.0.9252+musa.b9050p3+aios1.5.0.gaf51ba0a6 arm64 llama.cpp with MUSA backend
ii musa 5.2.1-M1000 arm64 Moore Threads MUSA driver [34b7fa81e]
ii musa-sdk 5.1.2 arm64 Moore Threads MTGPU Software Development Kit
| 组件 | 版本 |
|---|---|
llama-cpp-musa | 0.0.9252+musa.b9050p3+aios1.5.0.gaf51ba0a6 |
musa | 5.2.1-M1000 |
musa-sdk | 5.1.2 |
安装后再次检查 llama-server:
llama-server --version
输出应显示版本 9252,并能正常识别 MUSA 设备。确认后可继续按“快速开始”章节部署模型。

