跳到主要内容

版本发布说明

0.5.10+20260718(2026.07.18)​

本版本是 SGLang-MUSA M1000 在本归档中的基础版本,面向 AIModule(系统版本:AIOS 1.4.1),支持 Qwen3、Qwen3.5、Qwen3.5-FQ 系列模型的部署与推理。

组件版本​

组件版本
MUSA5.1.1
MUSA SDK5.1.1
Triton MUSA3.2.0
Torch2.9.0
Torch MUSA2.9.0
TorchAudio2.9.0+eaa9e4e
TorchVision0.22.1+e98278b
TileLang MUSA0.1.6.post2+musa.3
MATE0.2.0+mu510torch2.9
Apache TVM FFI0.1.9.post3.dev0+musa.1.gf6b52d7f4.d20260703
SGLang0.5.10+20260630
SGLang Kernel0.4.1.dev20260630

支持模型​

  • Qwen3 系列
  • Qwen3.5 系列
  • Qwen3.5-FQ 系列

本版本要点​

  • 建立 SGLang-MUSA M1000 基础文档框架:简介、环境准备与部署、快速开始、服务调用、推理性能、常见问题。
  • 支持在 M1000 端侧 GPU 上部署并运行 SGLang 推理服务,提供 OpenAI 兼容接口调用与性能验证说明。