普通电脑就能用！保姆级教程吃透所有开源大模型本地部署，从 DeepSeek 开始

deepseek 在过年期间可谓是火出圈了，随之而来的是官方服务频频遭遇"挤爆"的尴尬境地，不少用户在网上抱怨响应迟缓、请求超时等问题。

AI小白龙*

1447人浏览 · 2025-02-20 09:54:06

AI小白龙* · 2025-02-20 09:54:06 发布

deepseek 在过年期间可谓是火出圈了，随之而来的是官方服务频频遭遇"挤爆"的尴尬境地，不少用户在网上抱怨响应迟缓、请求超时等问题。

目前市面上也有了很多平替的方案，比如「硅基流动+chatbox」、「云服务商一键部署」、「cursor等工具的集成」等等，收费也不高，但是本着能白嫖就白嫖的心态，还是推荐本地部署方案。

本地部署也有多种方案可以选择，这里重点推荐神仙组合「ollama+Chatbox」。

注意：本文以 mac 为例，但是思路都是相通的。

Ollama 的安装

ollama 的安装比较简单，直接在官方：https://ollama.com/ 下载安装包即可。

安装好了之后，双击应用打开。

在终端运行如下命令，有版本输出，则表示安装成功。

ollama -v

模型安装

ollama 支持很多主流开源大模型的安装，比如 meta 的 LLaMA 系列模型、阿里的通义千问 Qwen 系列模型，当然也包括 deepseek r1 模型，安装方式都大同小异。

我们可以在 https://ollama.com/search 浏览或者搜索自己感兴趣的模型。

以「deepseek-r1」为例，我们可以看到，它有多个参数版本可以选择：

1.5b、7b 等表示模型的参数，b 代表十亿，7b 就表示 70 亿参数

参数越大，模型越聪明，但是对电脑的要求越高，大致的关系如下：

模型	CPU 要求	GPU 要求	使用场景
DeepSeek-R1-1.5B	最低 4 核	非必需，可选 4GB+ 显存	低资源设备部署，比如嵌入式系统或物联网设备
DeepSeek-R1-7B	8 核以上	推荐 8GB+ 显存（如 RTX 3070/4060）	• 本地开发测试
DeepSeek-R1-8B	与 7B 相近	与 7B 相近	需更高精度的轻量级任务（如代码生成、逻辑推理）
DeepSeek-R1-14B	12 核以上	16GB+ 显存（如 RTX 4090 或 A5000）	• 企业生产级
DeepSeek-R1-32B	16 核以上（如 AMD Ryzen 9 或 Intel i9）	24GB+ 显存（如 A100 40GB 或双卡 RTX 3090）	• 高精度专业领域任务，比如医疗、法律等等
DeepSeek-R1-70B	32 核以上（服务器级 CPU）	多卡并行（如 2x A100 80GB 或 4x RTX 4090）	科研机构/大型企业（金融预测、大规模数据分析）
DeepSeek-R1-671B	64 核以上（服务器集群）	多节点分布式训练（如 8x A100/H100）	国家级/超大规模 AI 研究（如气候建模、基因组分析）或者通用人工智能（AGI）探索

本文以「1.5b」为例，复制命令在终端运行：

# 下载模型，并运行   # 下载过程会比较慢，需要耐心等待   ollama run deepseek-r1:1.5b

看到如下的提示就说明，模型下载并运行成功了：

这时候我们就可以在终端和 deepseek 进行对话了：

习惯终端的小伙伴，到这里就可以愉快的玩耍了。

对于不习惯的，可以进一步安装 UI 界面，常见的方案有：ChatBox、Cherry Studio、Open WebUI 等等，这里以「Chatbox」为例子。

ChatBox 安装

直接在官网：https://chatboxai.app/zh 下载安装即可。

首次打开应该会弹出这个界面：

选择「使用自己的API Key 或者本地模型」后，再选择「Ollama API」

选择刚刚安装的模型：

配置好之后，我们就可以和 deepseek 聊天了：

比如我问它 “1+1等于几？”，它会思考，并给出结果。

如果需要修改模型的话，可以点击「设置」进行调整。

写在最后

线上访问和本地部署各有千秋，小伙伴们可以自行尝试一下。其他开源大模型的部署同 deepseek 一样，只要在 ollama 中找到自己心仪的模型，复制运行命令即可。有什么问题，可以一起交流学习～

如何系统的去学习大模型LLM ？

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

事实上，抢你饭碗的不是AI，而是会利用AI的人。

继科大讯飞、阿里、华为等巨头公司发布AI产品后，很多中小企业也陆续进场！超高年薪，挖掘AI大模型人才！ 如今大厂老板们，也更倾向于会AI的人，普通程序员，还有应对的机会吗？

与其焦虑……

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高。

基于此，我用做产品的心态来打磨这份大模型教程，深挖痛点并持续修改了近70次后，终于把整个AI大模型的学习门槛，降到了最低！

在这个版本当中：

第一您不需要具备任何算法和数学的基础
第二不要求准备高配置的电脑
第三不必懂Python等任何编程语言

您只需要听我讲，跟着我做即可，为了让学习的道路变得更简单，这份大模型教程已经给大家整理并打包，现在将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点，那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套LLM大模型报告合集

这套包含640份报告的合集，涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)
在这里插入图片描述

三、LLM大模型系列视频教程

在这里插入图片描述

四、LLM大模型开源教程（LLaLA/Meta/chatglm/chatgpt）

在这里插入图片描述

五、AI产品经理大模型教程

在这里插入图片描述

LLM大模型学习路线 ↓

阶段1：AI大模型时代的基础理解

目标：了解AI大模型的基本概念、发展历程和核心原理。
内容：
- L1.1 人工智能简述与大模型起源
- L1.2 大模型与通用人工智能
- L1.3 GPT模型的发展历程
- L1.4 模型工程
- L1.4.1 知识大模型
- L1.4.2 生产大模型
- L1.4.3 模型工程方法论
- L1.4.4 模型工程实践
- L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

目标：掌握AI大模型API的使用和开发，以及相关的编程技能。
内容：
- L2.1 API接口
- L2.1.1 OpenAI API接口
- L2.1.2 Python接口接入
- L2.1.3 BOT工具类框架
- L2.1.4 代码示例
- L2.2 Prompt框架
- L2.3 流水线工程
- L2.4 总结与展望