跳到主要内容

Diffusion 模型部署

本章节包含 Wan2.2 和 Qwen-Image Diffusion 模型的部署指导。

Wan2.2-I2V-A14B-Diffusers​

启动脚本 wan_i2v_server.sh

#!/bin/bash
sglang serve --model-path /data/models/Wan2.2-I2V-A14B-Diffusers --served-model-name wan2.2-i2v-a14b-diffusers --port 20133 --num-gpus 2 --warmup

Wan2.2-T2V-A14B-Diffusers​

启动脚本 wan_t2v_server.sh

#!/bin/bash
sglang serve --model-path /data/models/Wan2.2-T2V-A14B-Diffusers --served-model-name wan2.2-t2v-a14b-diffusers --port 20133 --num-gpus 2 --warmup

Qwen/Qwen-Image​

启动脚本 qwen_image_server.sh

#!/bin/bash
sglang serve --model-path /data/models/Qwen-Image --served-model-name qwen-image --port 20133 --num-gpus 2 --ulysses-degree 1 --ring-degree 2 --warmup

Qwen/Qwen-Image-Edit​

启动脚本 qwen_image_edit_server.sh

#!/bin/bash
sglang serve --model-path /data/models/Qwen-Image-Edit --served-model-name qwen-image-edit --port 20133  --num-gpus 1 --warmup

版权所有 2024 摩尔线程，本文档受国际版权法保护。

摩尔线程和摩尔线程徽标是摩尔线程智能科技 (北京)有限责任公司的注册商标。

免责声明

本文档提供有关摩尔线程产品的信息。本文档并未授权任何知识产权的许可，并未以明示或暗示，或以禁止反言或其他方式授予任何知识产权许可。