版本发布信息
vLLM-MUSA 0.24.1/0.29.1（2026-09-30）
镜像链接
根据宿主机 MUSA Driver 版本选择镜像。MUSA SDK 是镜像内的开发套件，MUSA Driver 安装在宿主机，两者版本号不能混用：
| MUSA SDK | 宿主机 MUSA Driver（mthreads-gmi） | PyTorch | vLLM | 镜像 |
|---|---|---|---|---|
| 4.3.5 | 3.3.5 | 2.9.0 | 0.24.1 | registry.mthreads.com/presale/devtech/vllm-mt:d0930 |
| 5.2.0 | 5.2.0 | 2.11.0 | 0.29.1 | registry.mthreads.com/presale/devtech/vllm-mt-0.29-sdk520:d0930 |
docker pull registry.mthreads.com/presale/devtech/vllm-mt:d0930
docker pull registry.mthreads.com/presale/devtech/vllm-mt-0.29-sdk520:d0930
功能特性
- 软件栈：新增基于 MUSA SDK 5.2.0、
torch_musa2.11 和 vLLM 0.29.1 的镜像，同时保留 4.3.5 软件栈镜像。 - 模型支持：新增 Qwen3.6、Qwen3.8、DeepSeek V4 Flash、MiniMax-M2.7 等模型的验证结果。
- Graph 优化：支持全图模式
PIECEWISE_AND_FULL，并增加 Prefill Graph 支持。 - 稳定性：修复 Graph 模式下长序列、多并发场景的若干 OOM 问题，增强 MTP 稳定性。
- 缓存：支持 Prefix Caching。
- 性能：支持稳定开启
torch.compile；优化 GEMV，INT8 模型性能提升约 80%。 - 配置与测试：更新一批 S4000 模型配置，并提供
vllm-perf和vllm_L0_regression_test.sh。
历史版本
vLLM-MUSA 0.21
镜像链接
docker pull registry.mthreads.com/presale/devtech/vllm_musa:s4000_4.3.5_d0708
功能特性
- 引擎升级：核心推理引擎 vLLM 升级至社区 0.21 版本。
- 模型支持：新增 Qwen3.5、Qwen-VL、GLM 等模型的支持。
- 稳定性优化：解决部分模型启动服务时偶发 crash 的问题。
- 一键部署：提供
deploy.sh，支持一键部署 vLLM 模型服务。 - 最佳配置加载：
vllmviewer和deploy.sh支持自动加载模型最佳配置。 - 模板优化：新增 no-thinking chat template，解决 Qwen 系列模型循环输出
/think的问题。 - 一键压测：提供
query.sh，支持对已部署模型进行性能基准测试。 - 可视化操作：提供 vLLMViewer，支持通过 Web 页面部署和测试模型。
vLLM-MUSA 0.9.2
功能特性
- 基于 vLLM 社区版本 0.9.2
- 适配多种投机采样方案：支持多种投机采样方案，包括Deepseek模型的MTP，Dense模型的Eagle/Eagle3
- FlashAttention算子能力提升
vLLM-MUSA 0.7.3
功能特性
- 基于 vLLM 社区版本 0.7.3
- 支持 DeepSeek V3/R1 BF16 模型，以及 Qwen Dense 系列模型
- 支持 TP，PP 并行策略，TP 并行支持自定义 AllReduce
- 新增基于 WMMA 实现路径的 Triton 后端
- 支持 MUSA C++ Kernel for MLA and MoE;
- 支持 MUSA Graph，提升推理性能;
