Ubuntu 部署 DeepSeek

在 Ubuntu 系统上部署 DeepSeek 模型，能让用户利用其强大的人工智能能力，同时保障数据的安全性与操作的自主性。不过，这一过程涉及诸多技术细节，需要谨慎操作。以下将为你详细介绍在 Ubuntu 系统部署 DeepSeek 的操作步骤及注意事项。

前进的程序员

1083人浏览 · 2025-04-17 09:53:58

前进的程序员 · 2025-04-17 09:53:58 发布

一、部署前的准备工作

1. 系统环境要求

操作系统：推荐使用 Ubuntu 20.04 或更高版本，以确保系统的兼容性和稳定性。新的系统版本通常修复了之前的漏洞，并对新软件和硬件提供更好的支持。
Python 版本：需安装 Python 3.8 或更高版本。Python 作为 DeepSeek 运行的基础环境，高版本能提供更丰富的库和更好的性能。你可以通过在终端输入python3 --version来检查当前 Python 版本，如果版本不符合要求，可从 Python 官网下载安装包进行升级。
GPU 支持：若要充分发挥 DeepSeek 的性能，建议配备支持 CUDA 的 NVIDIA GPU，且显存最好在 16GB 以上。在终端输入nvidia -smi可查看 GPU 信息，确认 GPU 是否支持 CUDA。若不支持，模型也能在 CPU 上运行，但速度会大幅降低。
CUDA 和 CUDNN：CUDA 需 11.2 或更高版本，CUDNN 需 8.1 或更高版本。CUDA 是 NVIDIA 推出的并行计算平台和编程模型，CUDNN 则是用于深度神经网络的 GPU 加速库。在 NVIDIA 官网可下载对应版本的 CUDA 和 CUDNN，下载后按照官方文档进行安装。

2. 安装必要工具和依赖

更新系统软件包：打开终端，输入以下命令更新系统软件包，以获取最新的软件版本和安全补丁。

sudo apt - get update
sudo apt - get upgrade

安装依赖项：安装 Python 的包管理工具 pip、开发工具以及虚拟环境工具，命令如下。

sudo apt - get install - y python3 - pip python3 - dev python3 - venv git

二、部署操作步骤

1. 创建虚拟环境

为避免不同项目的依赖冲突，建议在虚拟环境中部署 DeepSeek。在终端执行以下命令创建名为deepseek - env的虚拟环境，并激活它。

python3 - m venv deepseek - env
source deepseek - env/bin/activate

激活虚拟环境后，命令行前缀会变为(deepseek - env)，表示当前处于该虚拟环境中。

2. 安装 PyTorch

根据你的 CUDA 版本安装相应的 PyTorch。例如，若 CUDA 版本为 11.2，安装命令如下。

pip install torch torchvision torchaudio -- extra - index - url https://download.pytorch.org/whl/cu112

安装过程可能需要一些时间，具体取决于网络速度。安装完成后，可通过在 Python 交互式环境中输入import torch; print(torch.__version__)来验证是否安装成功。

3. 克隆 DeepSeek 仓库

从 GitHub 克隆 DeepSeek 的代码库到本地，在终端输入以下命令。

git clone https://github.com/deepseek - ai/deepseek.git
cd deepseek

这会将 DeepSeek 的代码下载到当前目录下的deepseek文件夹中，并进入该文件夹。

4. 安装项目依赖

进入 DeepSeek 项目目录后，安装项目所需的 Python 依赖，命令如下。

pip install - r requirements.txt

此步骤会安装 DeepSeek 运行所需的各种 Python 库，由于依赖较多，安装时间可能较长，且过程中可能会出现一些警告信息，若不影响主要功能，可忽略。

5. 下载预训练模型

下载 DeepSeek 的预训练模型权重，并将其放置在models/目录下。你可以从官方提供的链接下载，或使用wget命令（假设模型权重已上传到某个服务器）。

wget https://example.com/path/to/deepseek_model.pth - O models/deepseek_model.pth

注意替换https://example.com/path/to/deepseek_model.pth为实际的模型下载链接。

6. 配置环境变量

设置必要的环境变量，例如模型路径和 GPU 设备号。在终端输入以下命令。

export MODEL_PATH = models/deepseek_model.pth
export CUDA_VISIBLE_DEVICES = 0

这里假设模型文件名为deepseek_model.pth，且使用第 0 号 GPU 设备。若有多块 GPU，可根据需求修改CUDA_VISIBLE_DEVICES的值。

7. 运行模型

使用以下命令启动模型推理或训练。

python run.py -- model_path $MODEL_PATH -- input "你的输入文本"

将你的输入文本替换为实际要输入给模型的内容，即可得到模型的输出结果。

三、注意事项

1.依赖安装问题

在安装依赖过程中，可能会遇到依赖包版本冲突或无法安装的问题。此时，可尝试查看报错信息，手动指定依赖包的版本进行安装。例如，如果pip install - r requirements.txt中某个包安装失败，可单独使用pip install 包名==指定版本来安装。另外，也可尝试更换 pip 源，如使用清华源pip install - i https://pypi.tuna.tsinghua.edu.cn/simple 包名，以提高下载速度和稳定性。

2. 模型下载与存储

预训练模型通常较大，下载时需确保网络稳定，否则可能导致下载中断。若下载过程中断，可尝试使用支持断点续传的下载工具，如wget -c命令。同时，要保证系统有足够的存储空间来存放模型文件，避免因磁盘空间不足导致部署失败。

3. GPU 资源使用

如果在运行模型时遇到 GPU 资源分配或使用问题，可检查CUDA_VISIBLE_DEVICES环境变量是否设置正确。若有多块 GPU，可通过调整该变量的值来指定使用哪块 GPU。另外，确保 GPU 驱动已正确安装且与 CUDA、CUDNN 版本兼容，否则可能出现模型运行缓慢或无法使用 GPU 加速的情况。