DeepSeek本地部署简易教程:零基础也能轻松上手!
DeepSeek 作为国产开源大模型,近期因在线服务压力过大,本地部署需求激增。本教程将结合全网优质资源,手把手教你完成从环境配置到交互界面搭建的全流程,即使是零基础用户也能轻松掌握。前排提示,文末有大模型AGI-CSDN独家资料包哦!至此,已完成了 DeepSeek-R1 的本地部署,小白也能轻松搞定,快来试试吧,开启你的本地大模型之旅!读者福利:如果大家对大模型感兴趣,这套大模型学习资料一定对
前言
DeepSeek 作为国产开源大模型,近期因在线服务压力过大,本地部署需求激增。本教程将结合全网优质资源,手把手教你完成从环境配置到交互界面搭建的全流程,即使是零基础用户也能轻松掌握。
前排提示,文末有大模型AGI-CSDN独家资料包哦!
为什么要部署本地 DeepSeek?
在本地部署 DeepSeek 有以下几个优势:
- 隐私性高:数据都在本地运行,无需上传到云端,避免数据泄露风险。
- 稳定性强:不受网络波动影响,模型运行更加稳定。
- 可定制性强:可以根据需求调整模型参数,满足个性化需求。
一、部署前准备
1.1 硬件要求
硬件类型 | 最低配置 | 推荐配置 |
---|---|---|
显卡 | NVIDIA GTX 1060 (6GB显存) | RTX 4080 (16GB显存) |
内存 | 16GB | 32GB |
存储 | 50GB可用空间 | SSD固态硬盘 |
系统 | Windows 10 / macOS 12 / Ubuntu 20.04 | Windows 11 |
📌 注意事项:
- AMD 显卡用户需安装 25.1.1 版本驱动并配合 LM Studio 使用
二、核心部署流程
2.1 安装 Ollama 框架
2.1.1 下载安装包
访问 Ollama官网 → 选择对应系统版本下载(Windows用户建议安装到C盘)
下载完成后双击运行安装包,下一步下一步即可。
2.1.2 验证是否安装成功
win+R键打开 cmd
命令行,执行命令:
ollama -v
# 输出类似:ollama version is 0.5.7
如果显示 Ollama
版本号,说明安装成功。
2.2 选择 deepseek 大模型版本
ollama 安装成功以后,在官网搜索 deepseek,选择 deepseek-r1,如图所示:
DeepSeek 不同参数版本介绍:
模型参数规模 | 典型用途 | CPU 建议 | GPU 建议 | 内存建议 (RAM) | 磁盘空间建议 | 适用场景 |
---|---|---|---|---|---|---|
1.5b (15亿) | 小型推理、轻量级任务 | 4核以上 (Intel i5 / AMD Ryzen 5) | 可选,入门级 GPU (如 NVIDIA GTX 1650, 4GB 显存) | 8GB | 10GB 以上 SSD | 小型 NLP 任务、文本生成、简单分类 |
7b (70亿) | 中等推理、通用任务 | 6核以上 (Intel i7 / AMD Ryzen 7) | 中端 GPU (如 NVIDIA RTX 3060, 12GB 显存) | 16GB | 20GB 以上 SSD | 中等规模 NLP、对话系统、文本分析 |
14b (140亿) | 中大型推理、复杂任务 | 8核以上 (Intel i9 / AMD Ryzen 9) | 高端 GPU (如 NVIDIA RTX 3090, 24GB 显存) | 32GB | 50GB 以上 SSD | 复杂 NLP、多轮对话、知识问答 |
32b (320亿) | 大型推理、高性能任务 | 12核以上 (Intel Xeon / AMD Threadripper) | 高性能 GPU (如 NVIDIA A100, 40GB 显存) | 64GB | 100GB 以上 SSD | 大规模 NLP、多模态任务、研究用途 |
70b (700亿) | 超大规模推理、研究任务 | 16核以上 (服务器级 CPU) | 多 GPU 并行 (如 2x NVIDIA A100, 80GB 显存) | 128GB | 200GB 以上 SSD | 超大规模模型、研究、企业级应用 |
671b (6710亿) | 超大规模训练、企业级任务 | 服务器级 CPU (如 AMD EPYC / Intel Xeon) | 多 GPU 集群 (如 8x NVIDIA A100, 320GB 显存) | 256GB 或更高 | 1TB 以上 NVMe SSD | 超大规模训练、企业级 AI 平台 |
根据你本地电脑的配置选择合适的参数,例如我们选择 7b
这个参数,运行代码如下:
ollama run deepseek-r1:7b
等待下载完毕,下载完成后就可以愉快的在本地使用大模型了,如图所示:
2.3 常用AI客户端工具
使用命令行进行对话很不方便,可以使用一些 UI 工具来更方便的和 deepseek 进行交互。常用的工具有:
工具 | 描述 |
---|---|
Chatbox | 一个支持多种流行LLM模型的桌面客户端,可在 Windows、Mac 和 Linux 上使用 |
Cherry Studio | 一款为创造者而生的桌面版 AI 助手 |
AnythingLLM | 一款全方位AI应用程序。与您的文档聊天,使用AI代理,高度可配置,多用户,无需繁琐的设置。 |
或者你可以探索更多更好用的工具,适合自己使用习惯就行。
2.4 ChatBox 使用示例
这里我们使用 ChatBox 调用 DeepSeek 进行交互,其他工具使用方式类似。
ChatBox 官网地址:https://chatboxai.app/zh
下载自己操作系统的安装包,进行安装。
安装完 Chatbox 之后就是配置 DeepSeek 到 Chatbox 了,如下界面所示:
配置 AI 模型提供方,这里选择 Ollama,如图:
选择 deepseek 模型
配置完成以后就可以在界面上和本地 deepseek 模型进行聊天交互了,如图:
三、最后
至此,已完成了 DeepSeek-R1 的本地部署,小白也能轻松搞定,快来试试吧,开启你的本地大模型之旅!
读者福利:如果大家对大模型感兴趣,这套大模型学习资料一定对你有用
对于0基础小白入门:
如果你是零基础小白,想快速入门大模型是可以考虑的。
一方面是学习时间相对较短,学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。
包括:大模型学习线路汇总、学习阶段,大模型实战案例,大模型学习视频,人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型!
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费
】🆓
AI大模型学习路线
如果你对AI大模型入门感兴趣,那么你需要的话可以点击这里大模型重磅福利:入门进阶全套104G学习资源包免费分享!
扫描下方csdn官方合作二维码获取哦!
这是一份大模型从零基础到进阶的学习路线大纲全览,小伙伴们记得点个收藏!
第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;
第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;
第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;
第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;
第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;
第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;
第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。
100套AI大模型商业化落地方案
大模型全套视频教程
200本大模型PDF书籍
👉学会后的收获:👈
• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;
• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;
• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;
• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。
LLM面试题合集
大模型产品经理资源合集
大模型项目实战合集
👉获取方式:
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓
更多推荐
所有评论(0)