跳到主要内容

帮助(FAQ)

DeepSeek-V4-Flash-Base 运行超出显存

配置 MTP-off 在高并发或较低显存环境下可能超出显存,请同时降低 max-num-seqs 和 graph capture 上限后再部署。