一、什么情况下，适合把大模型部署在自己电脑上？

把大模型部署在自己的电脑上，有很多好处，但我要先泼一盆冷水。

如果你之前没用过AI产品，或者平时用AI也不多，不推荐搞本地部署。有更简单的方法，可以让你用上AI。

想用DeepSeek，可以直接在手机的软件商城，下载DeepSeek的手机APP。

或者用浏览器，搜索DeepSeek的网页版。这样是最简单的，并且背后的AI都是一样的。

本地部署适合以下情况：

① 电脑配置较高，有独立显卡。② 有私密的数据需要处理，担心泄密。③需要和本地工作流结合，处理高频任务或复杂任务。④ 日常使用量大，调用API需要收费，本地部署能省钱。⑤ 想要在开源模型基础上，做个性化的定制版本。

这么说有点复杂，我用DeepSeek总结了下，APP或网页与本地部署的使用场景。

二、大模型本地部署基本步骤

第一步：安装ollama

本地部署首先要安装ollama，你可以把它理解为，一个装AI的盒子，把AI装在盒子里，方便管理。

1. 首先在浏览器搜索ollama，会出现ollama官网，点击进入。

2. 进入官网后，点击中间的Download。

3. 根据自己的电脑类型，选择不同版本。

苹果电脑选最左边（蓝色框），Windows系统选最右边（红色框），之后点击下载（绿色框）。

4. 下载后，点击安装。

如果桌面出现了ollama图标，说明软件安装成功。图标就是下图的羊驼。

特别说明：最好安装在C盘，安装在其它盘，需要重新配置环境变量。

第二步，选择要安装的模型

5. 还是在刚刚的ollama官网，点击右上角红框的位置。

6. 在弹出的界面，点击红框的“Models”选项

7. 点击选择deepseek-r1

8. 选择不同参数的模型

这里的数字越大，参数越多，性能越强，1.5b代表模型具备15亿参数。

我的电脑16G显存，运行14b参数模型时，需要大约11.5G显存。如果是1.5b版本，2G以下的显存就可以运行，甚至不需要独立显卡，核显就可以。如果是32b参数的，就需要32G显存啦，可以根据自己的电脑性能选择。

下面选择1.5b参数做示范。

9. 复制命令

选择1.5b参数后，复制红框中的命令“ollama run deepseek-r1:1.5b”。

第三步，安装模型

10. 打开命令行

同时按下键盘上的Win和R键，弹出如下窗口。

在弹出的窗口中，输入cmd，点击确定，打开命令行，就像下面这样。

11. 输入下载命令

在打开的命令行里，输入上面复制的命令“ollama run deepseek-r1:1.5b”。

点击键盘上的“Enter”键，模型会自动下载。

12. 与模型对话

下载成功后，就可以与模型对话啦。

此时大模型安装在你的电脑上，就算断网也可以继续用，也不用担心数据泄露。

第四步，后续运行模型

这里还有一个问题，当你关闭电脑后，下次再打开ollama。会发现点击ollama的图标，电脑没反应。

因为你点击图标，只是启动了ollama，想要和大模型聊天，还是需要打开命令行。

13. 继续通过命令行和大模型聊天

同时按下键盘上的Win和R键，在弹出的窗口里输入cmd，点击确定打开命令行。在命令行界面，输入刚刚的命令“ollama run deepseek-r1:1.5b”。因为你之前已经下载过，这次无需下载，可以直接和模型聊天。

三、安装Open-WebUI（可以不看）

注意：前面的步骤，已经完整了。Open-WebUI只是让交互界面更好看，可以不必安装。且建议不熟悉电脑的朋友，先不要安装Open-WebUI。

Open-WebUI有比较多的依赖项，安装过程中容易出问题。如果安装半天没完成，容易打击到学习AI的热情，这也是为什么我做的视频里，没有讲Open-WebUI安装步骤的原因。

如果执意要安装，则安装步骤如下：

14. 首先安装docker

可以用docker来管理操作系统界面，比直接安装Open-WebUI更方便。

在浏览器输入docker并搜索，点击进入官网。

15. 根据你的电脑系统，下载docker桌面版，并安装运行。

安装完成后，需要重新启动电脑，才能正常使用docker。重新启动后，如果你的桌面上出现了docker的图标，就表示安装成功了。

16. 安装Open-WebUI

浏览器搜索Open-WebUI，进入官网，并复制红框中的命令。

按照上面提到的步骤，打开命令行，输入复制的命令，等待安装完成。

17. 运行Open-WebUI

双击docker的桌面图标，打开软件。点击红框端口，即可运行Open-WebUI。

初次访问时，需要注册一个账号。这些信息会储存在你的电脑里。

18. 开始对话

在界面左上角，选择你的模型，就可以开始对话啦。

Open-WebUI这部分的安装过程比较简略，如果出现报错，需要具备通过浏览器搜索问题原因，并修复的能力。确实不建议，不熟悉电脑的新手尝试。

五、其它问题

如何查看我电脑上装了多少个模型？

打开命令行，输入：ollama list，红框里就是对应模型。

如何删除模型？

在命令行输入，ollama rm + 模型名称，例如：ollama rm deepseek-r1:1.5b，就会自动删除对应模型。

ollama还有其它功能吗？

命令行输入ollama，展示出ollama的其它功能。

比如：输入“ollama stop”是停止模型运行，“run + 模型名”是运行对应模型。

【DeepSeek本地部署文档】

https://pan.quark.cn/s/7e0fa45596e4

最近，我的DeepSeek本地部署视频在B站播放量意外小爆，评论区被两类留言淹没：一类是技术爱好者追问“如何用消费级显卡跑通大模型”，另一类是职场人焦虑“我的工作会被AI取代吗？”这两个问题的背后，折射出一个残酷的真相：大模型技术正在重构所有行业的生存法则，而掌握这项技术的人将获得通往未来的船票。

DeepSeek的火爆对普通人意味着什么？

DeepSeek的火爆并非偶然。它代表了一种技术趋势：大模型技术正在从实验室走向大众。过去，大模型技术似乎只属于科技巨头和学术机构，普通人很难接触到。而现在，随着开源社区的活跃和技术的普及，像DeepSeek这样的工具已经可以让普通用户在自己的设备上部署和使用大模型。

对于普通人来说，DeepSeek的火爆意味着：

1. 技术门槛降低：大模型技术不再遥不可及。通过本地部署，普通人也可以体验到强大的AI能力，无论是文本生成、对话系统还是其他AI应用。
2. 个性化需求得到满足：大模型可以根据用户的需求进行定制化调整，满足个性化的应用场景。比如，你可以训练一个专门用于写作、编程或翻译的模型。
3. 未来职业机会：大模型技术的普及将催生大量新的职业机会。无论是AI工程师、数据科学家，还是AI产品经理，掌握大模型技术将成为未来职场的重要竞争力。

DeepSeek的底层逻辑：大模型技术的核心

DeepSeek的底层逻辑正是基于大模型技术。大模型，顾名思义，是指参数量巨大、训练数据丰富的深度学习模型。这类模型通过海量数据的训练，能够捕捉到复杂的语言模式和知识结构，从而在各种任务中表现出色。

一、大模型岗位薪资揭密：应届生年薪40万起，跨界人才溢价300%

根据智联招聘《2024人工智能人才发展报告》，大模型相关岗位薪资较传统IT岗位平均高出67%，且呈现三大特征：

1.应届生起薪碾压传统行业

大模型算法工程师：本科28-40万/年，硕士40-60万/年

AI产品经理（无经验）：25-35万/年

（数据来源：猎聘2024校招季统计）

2.跨界人才溢价惊人

医疗+大模型复合人才：薪资较纯医疗背景提升200-300%

金融风控+大模型工程师：年薪可达80-150万

（案例：某三甲医院影像科医生转型AI医疗，薪资从25万跃升至75万）

3.中小企业重金抢人

二线城市AI初创公司开出“北上广深同薪”政策

某成都电商企业为AI推荐算法工程师开出百万年薪

二、行业大地震：这些岗位正在消失，这些岗位正在爆发

▍消失中的岗位（3年内高危职业）

• 基础数据标注员（已被AutoML取代90%工作量）
• 初级代码工程师（GPT-4可完成60%基础代码）

▍爆发中的黄金岗位

1.大模型训练师

• 某直播公司开出82万年薪招聘“带货大模型调教师”
• 核心技能：Prompt工程+垂直领域知识（如美妆/3C）

2.AI业务流程重构师

• 制造业龙头企业50万年薪招聘“生产流程AI化专家”
• 典型案例：富士康通过大模型优化生产线，减少30%人力成本

3.AI伦理合规官

• 金融机构新增岗位“大模型风控总监”，年薪超百万
• 职责：防止AI在信贷审核、投资建议中出现歧视性输出

三、普通人破局指南：无需代码基础，三步抢占AI红利

我整理了全网稀缺的**《大模型落地应用实战资料包》**，包含：

1.LLM大模型学习大纲+路线图

2.152个大模型各行业结合的落地案例集

3.大模型必读书籍PDF电子版

4.大模型全套系统学习视频

5.真实大厂岗位面试题库

6.640套AI大模型行业白皮书

获取方式：

结语：你正在经历人类史上最大规模的生产力革命

当东莞工厂用大模型替代500个质检员，当律所AI助理处理80%合同审查，当小红书博主用AI生成90%的图文内容——这场变革不再关乎“是否会发生”，而是“你站在哪一边”。

记住两个数字：

• 2023年全球大模型应用市场规模：270亿美元
• 2027年预测市场规模：4070亿美元

这中间3700亿美元的增量市场，就是普通人改写命运的机会。4年后你会感谢今天的决定。