跳到主要内容

快速入门

本页说明如何确认安装条件、安装并验证 MTDCGM,以及根据部署环境选择运行模式。

步骤 1:确认安装环境

支持的平台

MTDCGM 目前支持以下平台和环境:

  • S4000 和 S5000 Moore Threads 数据中心 GPU;
  • MUSA SDK 4.3 及以上版本;
  • 裸金属服务器。

检查安装条件

开始安装前,请确认系统中已安装与 GPU 和 MTDCGM 版本匹配的 MUSA SDK,其中包括摩尔线程驱动和 MUSA Toolkit。

MUSA SDK 是完整的软件开发环境,MUSA Toolkit 是其中提供编译器、运行时库和开发工具的组件。本文使用“MUSA Toolkit”指代具体运行依赖,使用“MUSA SDK”指代完整软件栈或发布版本。更多详情,参见 MUSA SDK


步骤 2:安装 MTDCGM

可通过在线安装(APT)或离线安装方式安装 MTDCGM。

注意

以下操作需要 root 权限。

安装方式概览

环境满足要求时,建议优先使用在线安装(APT);在受控环境中或需要指定安装包版本时,请使用离线安装。

安装方式适用场景说明
在线安装(APT)全新 Ubuntu 22.04 x86_64 Server 环境通过 DEB 配置包自动配置 APT 软件源后直接安装
离线安装受控环境、需要明确安装包版本手动下载安装包并执行安装

选择在线安装(APT)前,请确认:

  • 在线安装(APT)仅适用于全新 Ubuntu 22.04 x86_64 Server 环境。
  • 如果系统已通过旧版 DEB 包、RPM 包或其他方式安装 MTDCGM,请先按原安装方式完整卸载,再执行在线安装流程。

使用 DEB 配置包自动配置 APT 软件源并安装 MTDCGM:

  1. 下载配置包:

    wget https://dl.mthreads.com/repo/repository/ubuntu2204/pool/jammy/amd64/musa-repo-jammy_1.0.0.11-1_all.deb
  2. 安装配置包:

    sudo dpkg -i musa-repo-jammy_1.0.0.11-1_all.deb
  3. 更新本地缓存:

    sudo apt update
  4. 安装 MTDCGM:

    sudo apt install mt-datacenter-gpu-manager
  5. 根据安装提示,建议在 /etc/profile 文件中添加 MTDCGM 环境变量:

    vim /etc/profile
    export PATH=/usr/local/mtdcgm/bin:${PATH}
    export LD_LIBRARY_PATH=/usr/local/mtdcgm/lib/x86_64-linux-gnu:${LD_LIBRARY_PATH}
    source /etc/profile

安装完成后,请参见 验证安装 确认安装结果。


步骤 3:验证安装

执行以下命令前,请切换至 root 用户。

运行 1 级诊断,检查环境是否已准备好:

dcgmi diag -r 1

返回 PASS 表示环境已准备好;否则,请检查 MUSA SDK 软件栈是否已正确安装并完成配置。


步骤 4:选择运行模式

选择运行模式前,请先了解 MTDCGM 的基本组件及其关系。

基本组件

MTDCGM 包含以下组件:

MTDCGM 共享库

共享库 libdcgm.so.3 实现 MTDCGM 的主要管理功能,并通过 C API 对外提供这些功能。该库依赖 Moore Threads 驱动、MTML 和 MUSA Toolkit。

MT Host Engine

mt-hostengine 将 MTDCGM 共享库实例化为持续运行的独立进程,提供监控和管理服务。

注意

MTDCGM 需要使用 root 权限运行。

MTDCGM 命令行工具

命令行工具 dcgmi 通过网络接口与 MT Host Engine 通信,并提供大部分 MTDCGM 功能。无需开发 C API 程序,即可使用它控制 MTDCGM 或收集数据。

MTDCGM 核心库可以由 MT Host Engine 作为独立进程运行,也可以由第三方代理作为共享库加载。两种模式提供大致相同的功能和整体行为,请根据现有环境选择。

独立模式(推荐)

独立模式下,mt-hostengine 加载 MTDCGM 共享库,并作为守护进程提供监控和管理服务,主要适用于以下场景:

  • dcgmi 或使用 MTDCGM C API 的应用程序通过 mt-hostengine 访问 MTDCGM,无需自行管理共享库资源;
  • 多个 dcgmi 实例或应用程序需要同时访问 MTDCGM;
  • 需要使用 Moore Threads 命令行工具 dcgmi

独立模式更灵活且维护成本更低,是推荐的运行模式。在独立模式下,mt-hostengine 按默认频率执行 MTDCGM 管理任务;在嵌入模式下,第三方代理需要自行控制这些任务的调用频率。

dcgmi 通过套接字连接 mt-hostengine。应用程序也可以加载 MTDCGM 共享库,在初始化时指定 mt-hostengine 的 IP 地址,并通过 C API 访问 MTDCGM。安装 MTDCGM 后,请将 mt-hostengine 配置为随系统自动启动。

嵌入模式

此模式下,MTDCGM 作为共享库由第三方代理加载。适用于以下场景:

  • 节点上已存在第三方代理;
  • 需要由第三方代理统一管理 MTDCGM 的生命周期和资源占用。

第三方代理通常应在系统初始化时加载 MTDCGM 共享库,并在主机生命周期内管理 MTDCGM 基础设施。由于 MTDCGM 会维护生命周期状态,因此第三方代理需要在自身生命周期内持续维护该库。通过 API,代理可以显式调用和控制周期性数据采集、活动管理等操作,并精确控制 MTDCGM 使用 GPU 资源的时机。

注意

请按 API 定义的频率范围调用各项 MTDCGM 管理接口。调用过于频繁会浪费资源,却没有明显收益;调用频率过低会造成监控和管理覆盖缺口。


相关文档

  • 功能概述:安装完成后,通过 dcgmi 使用 GPU 分组、监控和拓扑查询等功能。
  • 诊断指南:运行不同级别的主动健康检查并分析诊断结果。
  • FAQ:排查安装、环境变量和 Host Engine 连接问题。
  • 发布版本信息:查看当前版本的环境要求和更新内容。