目录

deepseek一键部署脚本说明

0 必要前提

1 使用方法

1.1 使用默认安装配置

1.1 .1 使用其它ds模型

1.2 使用自定义安装

2 附录:deepseek模型手动下载

3 脚本下载地址


deepseek一键部署脚本说明

image-20250208183325987

0 必要前提

  • linux环境

  • python>=3.10

1 使用方法

1.1 使用默认安装配置

不建议:这种方法安装包自带了8b的模型,整个包有25G。

  1. 下载DeepSeek-R1-one.tar.gz

  2. 将DeepSeek-R1-one.tar.gz压缩包解压到/data路径下,包含了deepseek-r1、 deploy.sh、使用说明.pdf

    • DeepSeek-R1: DeepSeek-R1的8b模型

    • deploy.sh:安装脚本

    • 使用说明.pdf: deploy.sh的使用说明

  3. 压缩包自带了deepseek-r1的8b模型,确保模型所在路径为/data/DeepSeek-R1

  4. 执行deploy脚本:bash deploy.sh

等待安装完成:

后端服务api地址 : http//:ip:24444;可在浏览器页面打开,查看接口文档

自带可视化页面:http//:ip:6008;可在浏览器页面打开,开始与ds对话。

1.1 .1 使用其它ds模型

确保模型路径命名为/data/DeepSeek-R1

其它同1.1

1.2 使用自定义安装

脚本下载地址

可自定义后端端口号、前端端口号、模型路径、模型名称、显卡数量

  1. 可直接下载deploy.sh脚本文件

  2. 执行deploy脚本:./deploy.sh --custom

  3. 根据提示配置后端端口号、前端端口号、模型路径、模型名称

等待安装完成:

后端服务api地址 : http//:ip:自定义端口;可在浏览器页面打开,查看接口文档

自带可视化页面:http//:ip:自定义端口;可在浏览器页面打开,开始与ds对话。

2 附录:deepseek模型手动下载

3 脚本下载地址

4 其它

支持lmdeploy部署的,都可以使用该脚本

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐