环境准备与部署
warning
注意:本指南目前只适用于 M1000 AIBook 环境,需要 AIOS 1.5.0 操作系统。
AIBook AIOS 1.5.0 已在系统环境中预装 Llama.cpp-MUSA-M1000 0.0.9171 运行环境,通常无需手动下载或安装 Llama.cpp-MUSA-M1000、MUSA 和 MUSA SDK。首次使用 前按本章节完成环境验证即可。
Step1 确认操作系统版本
当前版本仅支持 AIOS 1.5.0。请先与设备提供方确认设备系统版本是否为 AIOS 1.5.0。
可在设置-关于-操作系统名称查看 AIOS 版本。
Step2 确认 MUSA 环境
执行 musaInfo,如果可以正常输出设备信息,说明 MUSA 环境可用。
musaInfo
Step3 确认 musa、musa-sdk 和 llama.cpp 版本
执行以下命令检查系统预装的软件包版本:
sudo dpkg -l | grep musa
正确输出应包含以下版本:
ii llama-cpp-musa 0.0.9171+musa.b9050p3.g3c7a0aa75 arm64 llama.cpp with MUSA backend
ii musa 5.2.1-M1000 arm64 Moore Threads MUSA driver [34b7fa81e]
ii musa-sdk 5.1.2 arm64 Moore Threads MTGPU Software Development Kit
| 组件 | 版本 |
|---|---|
llama-cpp-musa | 0.0.9171+musa.b9050p3.g3c7a0aa75 |
musa | 5.2.1-M1000 |
musa-sdk | 5.1.2 |
Step4 确认 llama-server
执行以下命令查看 llama-server 版本和 MUSA 设备识别情况:
llama-server --version
正常输出示例:
MUSA: found 1 device(s)
MUSA: device 0: M1000 (31.0 GB, compute 2.2, shared mem 72 KB)
MUSA: device 0: VMM supported (granularity 4096 bytes)
version: 9171 (64e116398)
built with GNU 11.4.0 for Linux aarch64
如果 musaInfo、软件包版本或 llama-server --version 环境检测不通过,请联系客服或设备提供方确认系统镜像和预装环境。
【可选】打开性能模式(推荐)
界面右上角: 电源 -> 性能

