版本发布说明
0.5.18+20261030(2026.10.30)
本版本面向 AIModule(系统版本:AIOS 1.6.0),在 0.5.18+20260930 的基础上新增 Qwen-Image 2.1 Turbo 文生图服务和 Qwen3.5/3.6 per-channel 量化支持,并优化 DFlash、MoE 与 prefill 性能。
组件版本
| 组件 | 版本 |
|---|---|
| MUSA | 5.3.0-M1000 |
| MUSA SDK | 5.2.2 |
| Triton MUSA | 3.2.0+musa5.2.2 |
| Torch | 2.11.0.post2 |
| Torch MUSA | 2.11.0.post2 |
| TorchAudio | 2.11.0+34c52a6 |
| TorchVision | 0.26.0.post2+c191c9f |
| TileLang MUSA | 0.1.6.post2+musa.3 |
| MATE | 0.2.5+20261101.torch2.11 |
| Apache TVM FFI | 0.1.9.post3.dev0+musa.1.gf6b52d7f4.d20260703 |
| SGLang | 0.5.18+20261101.torch2.11 |
| SGLang Kernel | 0.4.6.post1+20261101.torch2.11 |
相比 0.5.18+20260930 新增的功能
- 新增 Qwen-Image 2.1 Turbo 文生图服务,支持组件常驻 GPU、启动预热、分阶段计时和 msys profiling。
- 新增 Qwen-Image-Bench 一键评测与 Q-Judger 评分流程,支持生成评测、复用官方图片评测以及单样本和汇总结果输出。
- Qwen-Image 2.1 新增 W4A8 DiT、W8A8 文本编码器量化路径,并加入 QK-Norm、RoPE、SwiGLU、AdaLN 等融合优化。
- 新增 Qwen3.5/3.6 per-channel 量化模型支持。
- 优化 DFlash 推理路径:降低 CPU 调度开销,启用 FQ DFlash overlap,支持 Qwen3.5 W4A8 breakable graph,并改善 TTFT 稳定性。
- 优化 GPTQ W4A16 prefill GEMM、W4A8 MoE 权重加载重排和 prefill CUDA graph batch bucket。
- 适配 Torch MUSA 2.11 与 MUSA SDK 5.2.2。
支持模型
- Qwen3:Qwen3-30B-A3B-GPTQ-Int4、gptq-Qwen3-VL-8B-Instruct-4bit-group
- Qwen3.5:Qwen3.5-35B-A3B-GPTQ-Int4、gptq-Qwen3.5-35B-A3B-full-4bit-group、Qwen3.5-35B-A3B-QQQ-W4A8
- Qwen3.6:gptq-Qwen3.6-35B-A3B-4bit-group、Qwen3.6-35B-A3B-QQQ-W4A8
- Qwen-Image 2.1 Turbo:支持文生图推理、W4A8/W8A8 量化与 Qwen-Image-Bench 评测

