服务部署

摩影元像双盒子方案依赖两台天思盒子：

• 摩影元像端：部署摩影元像。
• 大模型端：部署本地大模型和本地推理服务环境。

摩影元像端和大模型端通过有线网络连接，需要将网线连接到两台设备的 eth0 网络接口。网络配置请参考 网络配置。

在大模型端下载并安装

# 下载本地 vLLM 服务包
wget -c https://mt-maliang-saas.tos-cn-beijing.volces.com/dh2d/release/V2.0.1/vllm-service-packages.tar.gz

# 解压缩
tar -xzf vllm-service-packages.tar.gz

# 按 README.md 安装

# 重启设备
sudo reboot

在摩影元像端下载并安装

# 下载前端安装包
wget -c https://mt-maliang-saas.tos-cn-beijing.volces.com/dh2d/release/V2.0.1/2D-DigitalME_v2.0.1-normal.beta.3_arm64.deb

# 下载后端安装包
wget -c https://mt-maliang-saas.tos-cn-beijing.volces.com/dh2d/release/V2.0.1/mt-ai-service_release_arm64_v2.0.1-alpha.24-license-aibox_20260527_191705_e51b663.deb

# 下载 embedding 服务调用包
wget -c https://mt-maliang-saas.tos-cn-beijing.volces.com/dh2d/release/V2.0.1/mt-ai-emb_localRag_1.0.4_arm64.deb

# 下载本地知识库包
wget -c https://mt-maliang-saas.tos-cn-beijing.volces.com/dh2d/release/V2.0.1/ragflow-vllm_1.0.9_arm64_deviceDocker.deb

# 安装应用
sudo dpkg -i 2D-DigitalME_v2.0.1-normal.beta.3_arm64.deb
sudo dpkg -i mt-ai-service_release_arm64_v2.0.1-alpha.24-license-aibox_20260527_191705_e51b663.deb
sudo dpkg -i mt-ai-emb_localRag_1.0.4_arm64.deb
sudo dpkg -i ragflow-vllm_1.0.9_arm64_deviceDocker.deb

初始化配置信息

以下操作均在摩影元像端执行：

# 需要申请初始化脚本：init_script_address
wget -qO- init_script_address | sudo python3 - --flavor local

# 重启设备
sudo reboot

初始化完成后，继续参考 服务配置 配置模型、固定问答和知识库。