跳到主要内容

版本发布说明

0.5.18+20261030(2026.10.30)​

本版本面向 AIModule(系统版本:AIOS 1.6.0),在 0.5.18+20260930 的基础上新增 Qwen-Image 2.1 Turbo 文生图服务和 Qwen3.5/3.6 per-channel 量化支持,并优化 DFlash、MoE 与 prefill 性能。

组件版本​

组件版本
MUSA5.3.0-M1000
MUSA SDK5.2.2
Triton MUSA3.2.0+musa5.2.2
Torch2.11.0.post2
Torch MUSA2.11.0.post2
TorchAudio2.11.0+34c52a6
TorchVision0.26.0.post2+c191c9f
TileLang MUSA0.1.6.post2+musa.3
MATE0.2.5+20261101.torch2.11
Apache TVM FFI0.1.9.post3.dev0+musa.1.gf6b52d7f4.d20260703
SGLang0.5.18+20261101.torch2.11
SGLang Kernel0.4.6.post1+20261101.torch2.11

相比 0.5.18+20260930 新增的功能​

  • 新增 Qwen-Image 2.1 Turbo 文生图服务,支持组件常驻 GPU、启动预热、分阶段计时和 msys profiling。
  • 新增 Qwen-Image-Bench 一键评测与 Q-Judger 评分流程,支持生成评测、复用官方图片评测以及单样本和汇总结果输出。
  • Qwen-Image 2.1 新增 W4A8 DiT、W8A8 文本编码器量化路径,并加入 QK-Norm、RoPE、SwiGLU、AdaLN 等融合优化。
  • 新增 Qwen3.5/3.6 per-channel 量化模型支持。
  • 优化 DFlash 推理路径:降低 CPU 调度开销,启用 FQ DFlash overlap,支持 Qwen3.5 W4A8 breakable graph,并改善 TTFT 稳定性。
  • 优化 GPTQ W4A16 prefill GEMM、W4A8 MoE 权重加载重排和 prefill CUDA graph batch bucket。
  • 适配 Torch MUSA 2.11 与 MUSA SDK 5.2.2。

支持模型​

  • Qwen3:Qwen3-30B-A3B-GPTQ-Int4、gptq-Qwen3-VL-8B-Instruct-4bit-group
  • Qwen3.5:Qwen3.5-35B-A3B-GPTQ-Int4、gptq-Qwen3.5-35B-A3B-full-4bit-group、Qwen3.5-35B-A3B-QQQ-W4A8
  • Qwen3.6:gptq-Qwen3.6-35B-A3B-4bit-group、Qwen3.6-35B-A3B-QQQ-W4A8
  • Qwen-Image 2.1 Turbo:支持文生图推理、W4A8/W8A8 量化与 Qwen-Image-Bench 评测