一、什么情况下，适合把大模型部署在自己电脑上？

把大模型部署在自己的电脑上，有很多好处，但我要先泼一盆冷水。

如果你之前没用过AI产品，或者平时用AI也不多，不推荐搞本地部署。有更简单的方法，可以让你用上AI。

想用DeepSeek，可以直接在手机的软件商城，下载DeepSeek的手机APP。

或者用浏览器，搜索DeepSeek的网页版。这样是最简单的，并且背后的AI都是一样的。

本地部署适合以下情况：

① 电脑配置较高，有独立显卡。② 有私密的数据需要处理，担心泄密。③需要和本地工作流结合，处理高频任务或复杂任务。④ 日常使用量大，调用API需要收费，本地部署能省钱。⑤ 想要在开源模型基础上，做个性化的定制版本。

这么说有点复杂，我用DeepSeek总结了下，APP或网页与本地部署的使用场景。

二、大模型本地部署基本步骤

第一步：安装ollama

本地部署首先要安装ollama，你可以把它理解为，一个装AI的盒子，把AI装在盒子里，方便管理。

1. 首先在浏览器搜索ollama，会出现ollama官网，点击进入。

2. 进入官网后，点击中间的Download。

3. 根据自己的电脑类型，选择不同版本。

苹果电脑选最左边（蓝色框），Windows系统选最右边（红色框），之后点击下载（绿色框）。

4. 下载后，点击安装。

如果桌面出现了ollama图标，说明软件安装成功。图标就是下图的羊驼。

特别说明：最好安装在C盘，安装在其它盘，需要重新配置环境变量。

第二步，选择要安装的模型

5. 还是在刚刚的ollama官网，点击右上角红框的位置。

6. 在弹出的界面，点击红框的“Models”选项

7. 点击选择deepseek-r1

8. 选择不同参数的模型

这里的数字越大，参数越多，性能越强，1.5b代表模型具备15亿参数。

我的电脑16G显存，运行14b参数模型时，需要大约11.5G显存。如果是1.5b版本，2G以下的显存就可以运行，甚至不需要独立显卡，核显就可以。如果是32b参数的，就需要32G显存啦，可以根据自己的电脑性能选择。

下面选择1.5b参数做示范。

9. 复制命令

选择1.5b参数后，复制红框中的命令“ollama run deepseek-r1:1.5b”。

第三步，安装模型

10. 打开命令行

同时按下键盘上的Win和R键，弹出如下窗口。

在弹出的窗口中，输入cmd，点击确定，打开命令行，就像下面这样。

11. 输入下载命令

在打开的命令行里，输入上面复制的命令“ollama run deepseek-r1:1.5b”。

点击键盘上的“Enter”键，模型会自动下载。

12. 与模型对话

下载成功后，就可以与模型对话啦。

此时大模型安装在你的电脑上，就算断网也可以继续用，也不用担心数据泄露。

第四步，后续运行模型

这里还有一个问题，当你关闭电脑后，下次再打开ollama。会发现点击ollama的图标，电脑没反应。

因为你点击图标，只是启动了ollama，想要和大模型聊天，还是需要打开命令行。

13. 继续通过命令行和大模型聊天

同时按下键盘上的Win和R键，在弹出的窗口里输入cmd，点击确定打开命令行。在命令行界面，输入刚刚的命令“ollama run deepseek-r1:1.5b”。因为你之前已经下载过，这次无需下载，可以直接和模型聊天。

三、安装Open-WebUI（可以不看）

注意：前面的步骤，已经完整了。Open-WebUI只是让交互界面更好看，可以不必安装。且建议不熟悉电脑的朋友，先不要安装Open-WebUI。

Open-WebUI有比较多的依赖项，安装过程中容易出问题。如果安装半天没完成，容易打击到学习AI的热情，这也是为什么我做的视频里，没有讲Open-WebUI安装步骤的原因。

如果执意要安装，则安装步骤如下：

14. 首先安装docker

可以用docker来管理操作系统界面，比直接安装Open-WebUI更方便。

在浏览器输入docker并搜索，点击进入官网。

15. 根据你的电脑系统，下载docker桌面版，并安装运行。

安装完成后，需要重新启动电脑，才能正常使用docker。重新启动后，如果你的桌面上出现了docker的图标，就表示安装成功了。

16. 安装Open-WebUI

浏览器搜索Open-WebUI，进入官网，并复制红框中的命令。

按照上面提到的步骤，打开命令行，输入复制的命令，等待安装完成。

17. 运行Open-WebUI

双击docker的桌面图标，打开软件。点击红框端口，即可运行Open-WebUI。

初次访问时，需要注册一个账号。这些信息会储存在你的电脑里。

18. 开始对话

在界面左上角，选择你的模型，就可以开始对话啦。

Open-WebUI这部分的安装过程比较简略，如果出现报错，需要具备通过浏览器搜索问题原因，并修复的能力。确实不建议，不熟悉电脑的新手尝试。

四、其它问题

如何查看我电脑上装了多少个模型？

打开命令行，输入：ollama list，红框里就是对应模型。

如何删除模型？

在命令行输入，ollama rm + 模型名称，例如：ollama rm deepseek-r1:1.5b，就会自动删除对应模型。

ollama还有其它功能吗？

命令行输入ollama，展示出ollama的其它功能。

比如：输入“ollama stop”是停止模型运行，“run + 模型名”是运行对应模型。

零基础如何学习AI大模型

领取方式在文末

为什么要学习大模型？

学习大模型课程的重要性在于它能够极大地促进个人在人工智能领域的专业发展。大模型技术，如自然语言处理和图像识别，正在推动着人工智能的新发展阶段。通过学习大模型课程，可以掌握设计和实现基于大模型的应用系统所需的基本原理和技术，从而提升自己在数据处理、分析和决策制定方面的能力。此外，大模型技术在多个行业中的应用日益增加，掌握这一技术将有助于提高就业竞争力，并为未来的创新创业提供坚实的基础。

大模型典型应用场景

①AI+教育：智能教学助手和自动评分系统使个性化教育成为可能。通过AI分析学生的学习数据，提供量身定制的学习方案，提高学习效果。
②AI+医疗：智能诊断系统和个性化医疗方案让医疗服务更加精准高效。AI可以分析医学影像，辅助医生进行早期诊断，同时根据患者数据制定个性化治疗方案。
③AI+金融：智能投顾和风险管理系统帮助投资者做出更明智的决策，并实时监控金融市场，识别潜在风险。
④AI+制造：智能制造和自动化工厂提高了生产效率和质量。通过AI技术，工厂可以实现设备预测性维护，减少停机时间。
…
这些案例表明，学习大模型课程不仅能够提升个人技能，还能为企业带来实际效益，推动行业创新发展。

学习资料领取

如果你对大模型感兴趣，可以看看我整合并且整理成了一份AI大模型资料包，需要的小伙伴文末免费领取哦，无偿分享！！！
vx扫描下方二维码即可
加上后会一个个给大家发

AI大模型学习路线

如果你对AI大模型入门感兴趣，那么你需要的话可以点击这里大模型重磅福利：入门进阶全套104G学习资源包免费分享！

扫描下方csdn官方合作二维码获取哦！

这是一份大模型从零基础到进阶的学习路线大纲全览，小伙伴们记得点个收藏！

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

100套AI大模型商业化落地方案

大模型全套视频教程

200本大模型PDF书籍

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

LLM面试题合集

大模型产品经理资源合集

大模型项目实战合集

👉获取方式：
😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓