vllm-musa
vLLM-MUSA插件是专为摩尔线程GPU设计的vLLM后端运行插件。 该插件是vLLM社区推荐的摩尔线程GPU支持方案,遵循硬件可插拔([RFC]: Hardware pluggable)原则,通过提供硬件解耦接口实现了摩尔线程GPU与vLLM框架的深度整合。

vLLM-MUSA插件是专为摩尔线程GPU设计的vLLM后端运行插件。 该插件是vLLM社区推荐的摩尔线程GPU支持方案,遵循硬件可插拔([RFC]: Hardware pluggable)原则,通过提供硬件解耦接口实现了摩尔线程GPU与vLLM框架的深度整合。

版权所有 2024 摩尔线程,本文档受国际版权法保护。
摩尔线程和摩尔线程徽标是摩尔线程智能科技 (北京)有限责任公司的注册商标。
免责声明
本文档提供有关摩尔线程产品的信息。本文档并未授权任何知识产权的许可,并未以明示或暗示,或以禁止反言或其他方式授予任何知识产权许可。

