Skip to main content

环境准备与部署

warning

注意:本指南目前只适用于 M1000 AIBook 环境,需要 AIOS 1.5.0 操作系统。

AIBook AIOS 1.5.0 已在系统环境中预装 Llama.cpp-MUSA-M1000 0.0.9171 运行环境,通常无需手动下载或安装 Llama.cpp-MUSA-M1000、MUSA 和 MUSA SDK。首次使用前按本章节完成环境验证即可。

Step1 确认操作系统版本

当前版本仅支持 AIOS 1.5.0。请先与设备提供方确认设备系统版本是否为 AIOS 1.5.0。

可在设置-关于-操作系统名称查看 AIOS 版本。

Step2 确认 MUSA 环境

执行 musaInfo,如果可以正常输出设备信息,说明 MUSA 环境可用。

musaInfo

musaInfo 输出示例

Step3 确认 musa、musa-sdk 和 llama.cpp 版本

执行以下命令检查系统预装的软件包版本:

sudo dpkg -l | grep musa

正确输出应包含以下版本:

ii llama-cpp-musa 0.0.9171+musa.b9050p3.g3c7a0aa75 arm64 llama.cpp with MUSA backend
ii musa 5.2.1-M1000 arm64 Moore Threads MUSA driver [34b7fa81e]
ii musa-sdk 5.1.2 arm64 Moore Threads MTGPU Software Development Kit
组件版本
llama-cpp-musa0.0.9171+musa.b9050p3.g3c7a0aa75
musa5.2.1-M1000
musa-sdk5.1.2

Step4 确认 llama-server

执行以下命令查看 llama-server 版本和 MUSA 设备识别情况:

llama-server --version

正常输出示例:

MUSA: found 1 device(s)
MUSA: device 0: M1000 (31.0 GB, compute 2.2, shared mem 72 KB)
MUSA: device 0: VMM supported (granularity 4096 bytes)
version: 9171 (64e116398)
built with GNU 11.4.0 for Linux aarch64

如果 musaInfo、软件包版本或 llama-server --version 环境检测不通过,请联系客服或设备提供方确认系统镜像和预装环境。

【可选】打开性能模式(推荐)

界面右上角: 电源 -> 性能