Diffusion 模型部署

本章节包含 Wan2.2 和 Qwen-Image Diffusion 模型的部署指导。

信息

启动 SGLang 服务前切换python虚拟环境到sglang-diffusion，执行命令：workon sglang-diffusion 或 source ~/.virtualenvs/sglang-diffusion/bin/activate

Wan2.2-I2V-A14B-Diffusers

启动脚本 wan_i2v_server.sh

#!/bin/bash
workon sglang-diffusion

sglang serve --model-path /data/models/Wan2.2-I2V-A14B-Diffusers --served-model-name wan2.2-i2v-a14b-diffusers --port 20133 --log-level=debug --num-gpus 2 --warmup

Wan2.2-T2V-A14B-Diffusers

启动脚本 wan_t2v_server.sh

#!/bin/bash
workon sglang-diffusion

sglang serve --model-path /data/models/Wan2.2-T2V-A14B-Diffusers --served-model-name wan2.2-t2v-a14b-diffusers --port 20133 --log-level=debug --num-gpus 2 --warmup

Qwen/Qwen-Image

启动脚本 qwen_image_server.sh

#!/bin/bash
workon sglang-diffusion

sglang serve --model-path /data/models/Qwen-Image --served-model-name qwen-image --port 20133 --log-level=debug --num-gpus 2 --ulysses-degree 1 --ring-degree 2 --warmup

Qwen/Qwen-Image-Edit

启动脚本 qwen_image_edit_server.sh

#!/bin/bash
workon sglang-diffusion

sglang serve --model-path /data/models/Qwen-Image-Edit --served-model-name qwen-image-edit --port 20133 --log-level=debug --num-gpus 1 --warmup

测试验证

以下是测试 Diffusion 模型的命令与示例。

#!/bin/bash
# 修改模型路径为本地模型，输入相应的case名称
# 模板
export SGLANG_TEST_SERVE_ARGS="--model-path <本地模型路径>"
python -m pytest <测试文件> -k "<case_id>" -s

####例子：跑 2509
workon sglang-diffusion
export SGLANG_TEST_SERVE_ARGS="--model-path /data/models/models--Qwen--Qwen-Image-Edit-2509/snapshots/d3968ef930e841f4c73640fb8afa3b306a78167e" 

python -m pytest python/sglang/multimodal_gen/test/server/test_server_a.py -k "qwen_image_edit_2509_ti2i" -s

####例子：Wan2.2 T2V 2GPU
export SGLANG_TEST_SERVE_ARGS="--model-path /data/models/models--Wan-AI--Wan2.2-T2V-A14B-Diffusers/snapshots/5be7df9619b54f4e2667b2755bc6a756675b5cd7"

python -m pytest python/sglang/multimodal_gen/test/server/test_server_2_gpu_a.py -k "wan2_2_t2v_a14b_2gpu" -s

对应case名称

wan2_2_i2v_a14b_2gpu, wan2_2_t2v_a14b_2gpu, qwen_image_t2i, qwen_image_t2i_2_gpus, qwen_image_2512_t2i_musa, qwen_image_edit_ti2i, qwen_image_edit_2509_ti2i, qwen_image_edit_2511_ti2i