DeepSeek 本地部署流程

1. 安装 Ollama(基础环境)

Ollama 是一个轻量级AI模型运行框架,支持DeepSeek等开源模型。

  • 下载安装
    • 访问 Ollama官网,选择适合你操作系统的安装包(Windows .exe / Mac .dmg/Linux)。
      在这里插入图片描述

在这里插入图片描述

  • 安装完成后,在终端输入 ollama listollama -v 验证是否安装成功。

2. 下载 DeepSeek 模型

DeepSeek 提供多个参数版本,不同版本对硬件要求不同:

模型规模 典型用途 CPU 建议 GPU 建议 内存 (RAM) 建议 磁盘空间建议 适用场景
1.5B (15亿) 小型推理、轻量级任务 4核以上 (Intel i5 / AMD Ryzen 5) 可选,入门级 GPU (如 GTX 1650, 4GB 显存) 8GB 10GB+ SSD 小型 NLP 任务、文本生成、简单分类
7B (70亿) 中等推理、通用任务 6核以上 (Intel i7 / AMD Ryzen 7) 中端 GPU (如 RTX 3060, 12GB 显存) 16GB 20GB+ SSD 中等规模 NLP、对话系统、文本分析
14B (140亿) 中大型推理、复杂任务 8核以上 (Intel i9 / AMD Ryzen 9) 高端 GPU (如 RTX 3090, 24GB 显存) 32GB 50GB+ SSD 复杂 NLP、多轮对话、知识问答
32B (320亿) 大型推理、高性能任务 12核以上 (Intel Xeon / AMD Threadripper) 高性能 GPU (如 A100, 40GB 显存) 64GB 100GB+ SSD 大规模 NLP、多模态任务、研究用途
70B (700亿) 超大规模推理、研究任务 16核以上 (服务器级 CPU) 多 GPU 并行 (如 2x A100, 80GB 显存) 128GB 200GB+ SSD 超大规模模型、研究、企业级应用
671B (6710亿) 超大规模训练、企业级任务 服务器级 CPU (AMD EPYC / Intel Xeon) 多 GPU 集群 (如 8x A100, 320GB 显存) 256GB+ 1TB+ NVMe SSD 超大规模训练、企业级 AI 平台
  • 推荐版本
    • 普通用户(日常对话、写作)deepseek-r1:8b(约5GB)。
    • 高性能显卡用户(16GB+显存)deepseek-r1:16b 或更高。
  • 安装命令
    ollama run deepseek-r1:8b  # 下载并运行8B版本
    
    首次运行会自动下载模型文件,需耐心等待。

3. 测试模型运行

在终端输入问题,如:

ollama run deepseek-r1:8b

然后输入问题,看AI是否正常回应。
在这里插入图片描述

4. (可选)安装可视化界面

如果不想用命令行交互,可安装 Chatbox AICherry Studio 等客户端:

  • Chatbox AI 配置
    • 下载并安装 Chatbox
    • 在设置中选择 Ollama API,模型名称填写 deepseek-r1:8b,接口地址 http://localhost:11434。 (根据部署地址填写)
  • Open WebUI
    open-webui 官方包现在要求的 Python 版本 >= 3.11 且 < 3.13
    • 安装(conda创建新环境)
    conda create -n openwebui python=3.11
    conda activate openwebui
    pip install open-webui
    
    • 启动
     open-webui serve
    
    启动后,在浏览器中访问 http://localhost:8080/ 即可进入 Open WebUI 界面。
    在这里插入图片描述

总结

DeepSeek 本地部署的核心步骤是:
安装 Ollama → 2. 下载 DeepSeek 模型 → 3. 测试运行 → 4. (可选)安装可视化界面
这样就能在本地运行DeepSeek,避免服务器繁忙问题,同时提高数据隐私性。

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐