跳到主要内容

GPU 管理库(MTML)

摩尔线程 GPU 管理库(Moore Threads GPU Management Library,MTML)为应用和服务提供 GPU 管理编程接口。您可以在程序中查询设备和 GPU 信息、监控运行状态,并在设备支持的情况下配置虚拟化和 MPC 等资源管理功能。

能力概览

MTML API 以对象和资源为中心组织功能,主要覆盖以下内容:

  • 系统和设备:初始化库和系统对象,枚举设备,并按索引、UUID 或 PCI SBDF 初始化指定设备;
  • GPU 和内存:查询 GPU、显存和设备属性,获取设备状态和运行信息;
  • VPU 和编解码会话:查询视频编解码单元以及编码、解码会话状态和指标;
  • 虚拟化:查询设备的虚拟化能力、虚拟化类型和虚拟设备;
  • MPC:在支持 MPC 的设备上查询配置文件和配置,并管理 MPC 模式及实例。

具体函数、参数、返回值和支持范围请以 API 参考手册 为准。


使用场景

  • 应用和服务集成:应用或服务需要通过程序查询 GPU 信息、监控运行状态,或读取设备能力时,可使用 MTML 将 GPU 管理功能集成到业务代码中。
  • 节点代理和集群运维:节点代理、资源调度器或集群管理系统可以使用 MTML 自动收集 GPU 状态、设备属性和运行信息,用于资源管理、健康检查和故障预警。
  • 虚拟化和 MPC 管理:在支持的 GPU、驱动和运行环境中,使用 MTML 查询并管理相应能力和配置。

如果只需要在终端查询或排查 GPU,请使用 GPU 管理命令行工具(MTGMI)


相关文档