MT sGPU 安装指南

MT sGPU 支持细粒度动态切分 GPU 资源。结合 K8s 调度策略，用户可依据业务需求为容器分配小数倍 GPU 算力，避免资源浪费。本文档介绍支持的平台和详细的安装步骤。用户可评估业务是否有以下需要，判断是否安装 sGPU。

• 需要在多个容器间共享 GPU 资源。

• 需要精确控制分配给容器的显存和计算时间片。

• 提高异构任务（中小型计算任务）的 GPU 利用率。

注意：如果您不需要 sGPU 功能，请忽略该文档。如果需要该功能，同时计划使用 MT GPU Operator（Full 模式），可使用其自动安装 sGPU 组件的功能。但仍需要关注本文档中的硬件及平台支持范围，以及依赖组件的版本。

硬件及平台支持

GPU 支持列表

MTT S4000，S5000。

对于 S4000，固件版本要求 >= 2.1.1。

CPU 及 OS 支持

CPU	OS
Intel	Ubuntu 22.04
Intel	VesselOS 2.0 (LTS-SP2)
AMD64	Ubuntu 22.04

内核版本范围：5.4.0 – 5.15.0

系统依赖组件

在开始安装 sGPU 之前，请确保您的系统满足以下先决条件：

1. GPU 驱动：已为您的宿主机安装了 MUSA Linux Driver。

注意：sGPU v1.3.0 不支持 MUSA SDK & Linux Driver 5.x.x。

2. MT Container Toolkit：已为宿主机系统安装了摩尔线程 MT Container Toolkit（v2.1.0 及以上）和 MTML（v2.1.0 及以上）。

安装指南

安装步骤

使用 dpkg 包管理工具进行安装

$ sudo dpkg -i sgpu-dkms_1.3.0_amd64.deb

使用 rpm 包管理工具进行安装

$ sudo rpm -ivh sgpu-dkms-1.3.0-1.el8.x86_64.rpm

加载 sGPU 内核模块

将 .ko 文件内核模块加载到正在运行的内核中，并通过初始化参数来设置 sGPU 资源池大小。

注意：指定数量和指定 ID 互斥，只能选一种方式。

# 指定纳入资源池的 GPU 数量。
$ sudo insmod sgpu_km.ko total_gpu_num=integer

# 指定纳入资源池的 GPU ID 数组，更加精准。
$ sudo insmod sgpu_km.ko gpu_ids=0,1,2,...

验证 sGPU 安装状态

执行 lsmod 命令，若执行结果显示模块已成功加载到内核中，表示已成功安装 sGPU 服务：

$ lsmod | grep sgpu_km
$ sgpu_km  53248  0

卸载指南

先确保使用 sGPU 的容器都已关闭。

卸载内核模块

sudo modprobe -r sgpu_km

通过 dpkg 包管理工具清理

$ sudo dpkg -r sgpu-dkms

# 完全卸载并清除配置文件
$ sudo dpkg -P sgpu-dkms

通过 rpm 包管理工具清理

$ sudo rpm -e sgpu-dkms

# 查找并清除配置文件
$ sudo rpm -qc sgpu-dkms
$ sudo rm -rf /etc/包名/