跳到主要内容

版本发布说明

0.5.18+20260930(2026.09.30)​

本版本面向 AIModule(系统版本:AIOS 1.5.0),在 0.5.10+20260830 的基础上新增 Qwen3.6-35B-A3B W4A8 量化模型支持,并优化推理性能。

组件版本​

组件版本
MUSA5.2.1
MUSA SDK5.1.2
Triton MUSA3.2.0
Torch2.9.0
Torch MUSA2.9.0
TorchAudio2.9.0+eaa9e4e
TorchVision0.22.1+e98278b
TileLang MUSA0.1.6.post2+musa.3
MATE0.2.5+20261010
Apache TVM FFI0.1.9.post3.dev0+musa.1.gf6b52d7f4.d20260703
SGLang0.5.18+20261010
SGLang Kernel0.4.6.post1.dev20261010

相比 0.5.10+20260830 的变化​

  • 新增 Qwen3.6-35B-A3B-QQQ-W4A8 量化模型支持。
  • MUSA 由 5.1.1 升级到 5.2.1,MUSA SDK 由 5.1.1 升级到 5.1.2。
  • MATE 升级到 0.2.5+20261010。
  • SGLang 升级到 0.5.18+20261010,SGLang Kernel 升级到 0.4.6.post1.dev20261010。
  • 更新推理性能数据,优化整体性能表现。
  • 适用范围更新为 AIModule(系统版本:AIOS 1.5.0)。

支持模型​

  • Qwen3:Qwen3-30B-A3B-GPTQ-Int4、gptq-Qwen3-VL-8B-Instruct-4bit-group
  • Qwen3.5:Qwen3.5-35B-A3B-GPTQ-Int4、gptq-Qwen3.5-35B-A3B-full-4bit-group、Qwen3.5-35B-A3B-QQQ-W4A8
  • Qwen3.6:gptq-Qwen3.6-35B-A3B-4bit-group、Qwen3.6-35B-A3B-QQQ-W4A8