SGLang-MUSA M1000 简介
SGLang 是面向大语言模型和视觉语言模型的高性能推理框架。SGLang-MUSA M1000 提供了在摩尔线程 M1000 端侧 GPU 上运行 SGLang 的适配能力，便于用户在 MUSA 软件栈中部署模型服务并进行推理验证。
当前文档覆盖 SGLang-MUSA M1000 的环境准备、服务启动、接口调用和性能测试流程。
版本说明
| 组件 | 版本 |
|---|---|
| MUSA | 5.3.0-M1000 |
| MUSA SDK | 5.2.2 |
| Triton MUSA | 3.2.0+musa5.2.2 |
| Torch | 2.11.0.post2 |
| Torch MUSA | 2.11.0.post2 |
| TorchAudio | 2.11.0+34c52a6 |
| TorchVision | 0.26.0.post2+c191c9f |
| TileLang MUSA | 0.1.6.post2+musa.3 |
| MATE | 0.2.5+20261101.torch2.11 |
| Apache TVM FFI | 0.1.9.post3.dev0+musa.1.gf6b52d7f4.d20260703 |
| SGLang | 0.5.18+20261101.torch2.11 |
| SGLang Kernel | 0.4.6.post1+20261101.torch2.11 |
