跳到主要内容

SGLang-MUSA M1000 用户指南

SGLang-MUSA M1000 是面向摩尔线程 M1000 端侧 GPU 的 SGLang 适配方案，支持在 MUSA 软件栈上部署和运行 SGLang 推理服务。

借助 SGLang-MUSA M1000，用户可以在 M1000 AImodule 环境中完成 SGLang 源码安装、服务启动、OpenAI 兼容接口调用和性能验证。

文档目录​

版权所有 2024 摩尔线程，本文档受国际版权法保护。

摩尔线程和摩尔线程徽标是摩尔线程智能科技 (北京)有限责任公司的注册商标。

免责声明

本文档提供有关摩尔线程产品的信息。本文档并未授权任何知识产权的许可，并未以明示或暗示，或以禁止反言或其他方式授予任何知识产权许可。