MUSA SDK v4.3.5 发布版本信息

下载链接

MTT S5000

• 下载链接
  • RPM包（如适用OS）：下载地址
  • DEB包（如适用OS）：下载地址
• 支持操作系统：
  • Alibaba Cloud Linux 3
  • openEuler 22.03 (LTS-SP4)
  • Debian GNU/Linux 12
  • TencentOS Server 4.4
  • Ubuntu 22.04.4 LTS
  • VesselOS 1.0 SP1

MTT S4000

• 下载链接
  • DEB包（如适用OS）：下载地址
• 支持操作系统：
  • Ubuntu 22.04.4 LTS

发布说明

MUSA SDK v4.3.5 版本基于 MUSA SDK 4.3.0 分支进行功能迭代和问题修复，在 4.3.4 基础上持续优化大模型训练与推理性能、完善 GPU 功能特性，并进一步提升系统稳定性与易用性，现已正式发布。

具体支持平台详见下方列表。

支持平台

MTT S5000支持平台

CPU	OS	内核版本	MUSA SDK包
Intel	Alibaba Cloud Linux 3	5.10.134-13.al8.x86_64	RPM
	openEuler 22.03 (LTS-SP4)	5.10.0-216.0.0.115.oe2203sp4.x86_64	RPM
	Debian GNU/Linux 12	5.15.120.ve.3u1-amd64	DEB
	TencentOS Server 4.4	6.6.92-34.1.tl4.x86_64	RPM
	Ubuntu 22.04.4 LTS	5.15.0-105-generic	DEB
	VesselOS 1.0 SP1	5.10.0-136.13.2.89.vo1sp1.x86_64	RPM
AMD	Ubuntu 22.04.4 LTS	5.15.0-105-generic	DEB
Hygon	Ubuntu 22.04.4 LTS	5.15.0-105-generic	DEB
	Kylin Linux Advanced Server V10 (GFB)	4.19.90-52.23.v2207.gfb08.ky10.x86_64	RPM
	Kylin Linux Advanced Server V11 (Swan25)	6.6.0-32.7.v2505.ky11.x86_64	RPM

MTT S4000支持平台

CPU	OS	内核版本	MUSA SDK包
Intel	Ubuntu 22.04.4 LTS	5.15.0-105-generic	DEB

本版本在原有支持基础上，新增或优化了以下环境的适配：

• Intel + VesselOS + S5000

产品说明

摩尔线程 MUSA SDK 是一套完整的 GPU 并行计算开发环境，专为利用摩尔线程 GPU 加速程序而设计。通过 MUSA SDK，您能够轻松地利用 GPU 加速各种应用，涵盖企业数据中心、桌面、工作站以及云平台和超级计算机等多个领域。该套件包括了 GPU 加速库、调试和优化工具、C/C++编译器以及用于应用程序部署的运行时库等功能。作为一套完整的开发工具，MUSA SDK 包含了以下主要组件：

• MUSA Toolkits，包含底层编译器、MUSA 运行时库、Musify 工具以及MUSA-X 基础数学计算加速库
• muDNN，MT GPU 深度学习加速库
• MCCL，MT GPU 通信加速库
• MUSA SDK 依赖于摩尔线程 GPU 和摩尔线程 GPU 通用驱动程序，需要运行在带有摩尔线程 GPU的服务器/工作站/PC 中，并安装了通用 Linux 驱动程序的环境中运行
• MT GPU：MTT S5000, MTT S4000
• 通用驱动软件

另外 MUSA SDK 可配合摩尔线程提供的其他工具和软件提供更完整的 MUSA 计算功能

• GMI&MTML 工具，可提供显卡的管理监控功能并带有 C 函数接口
• 摩尔线程云原生套件，提供基于容器环境的 MUSA 计算并兼容 K8s 生态以及基于 RDMA 的GPU通信功能

功能描述

• 支持 SIMT(Single Instruction Multiple Thread，SIMT)架构并行编程模型
• 提供 MUSA 编程语言配套的编译器工具链 mcc，用于将 MUSA 应用程序源码编译为可以被 GPU识别的可执行文件
• MUSA 驱动与运行时库，提供完整的基于 MT GPU 的MUSA 运行环境
• 摩尔线程 MUSA 数学库提供了在 MT GPU 上优化过的数学函数库，包括
  • MUSA 基础线性代数加速库，MUSA BLAS Library，简称 muBLAS
  • MUSA 伪随机数生成加速库，MUSA RAND Library，简称 muRAND
  • MUSA 傅立叶变换加速库，MUSA FFT Library，简称 muFFT
  • MUSA 稀疏矩阵加速库，MUSA SPARSE Library，简称 muSPARSE
  • MUSA 线性代数求解加速库，MUSA SOLVER Library，简称 muSOLVER
  • MUSA 图像及信号处理加速库，MUSA Performance Primitives Library，简称 muPP
  • MUSA Thrust 并行计算加速库，MUSA Thrust Library，简称 muThrust
• MCCL 通信，针对摩尔线程 GPU 和网络进行性能优化的多 GPU 和多节点通信基元。 MCCL 提供了 all-gather、all-reduce、broadcast、reduce、reduce-scatter、point-to-point send 和 receive等原语，这些原语均经过优化，可通过节点内的 PCIe 和 MTLink 高速互联以及节点间的InfiniBand 网络实现高带宽和低延迟
• muDNN 库，针对深度学习领域和人工智能模型算法优化的函数库，提供高度优化的数学和数据处理任务的函数，包括张量运算，神经网络层计算，损失函数计算等
• Triton MUSA库，支持在摩尔线程 GPU 上高效运行 Triton DSL

主要更新

功能更新（Feature Updates）

• 算子与性能优化

  • 对 masked_fill 等算子进行了性能优化，提升了执行效率
  • 针对大模型推理场景，对相关组件进行了性能回归修复与配置优化

• 模型与框架支持

  • 提升了对部分主流大模型及多模态模型的支持能力，包括 FlashAttention 在特定 head dim 配置下反向传播能力的增强

• 能耗管理与配置增强

  • 完善了空闲功耗管理（Idle Power）的配置与使用说明，便于用户根据业务场景进行能耗与性能的平衡调优。对于通用环境，Idle Power 功能默认关闭。

• 驱动与系统适配

  • 新增 Intel + VesselOS + S5000 等环境的适配

产品组件说明

包名称	版本
mccl_rc2.1.5.PH1.tar.gz	2.1.5
mt-peermem_1.3_amd64.deb	1.3
mudnn_rc3.1.5.PH1.tar.gz	3.1.5
musa_3.3.5-server_amd64.deb	3.3.5
musa_toolkits_rc4.3.5.tar.gz	4.3.5
triton310_rc1.4.5_py310.tar.gz	1.4.5
triton310_rc1.4.5_py311.tar.gz	1.4.5