一、什么情况下,适合把大模型部署在自己电脑上?

把大模型部署在自己的电脑上,有很多好处,但我要先泼一盆冷水。

如果你之前没用过AI产品,或者平时用AI也不多,不推荐搞本地部署。有更简单的方法,可以让你用上AI。

想用DeepSeek,可以直接在手机的软件商城,下载DeepSeek的手机APP。

或者用浏览器,搜索DeepSeek的网页版。这样是最简单的,并且背后的AI都是一样的。

本地部署适合以下情况:

① 电脑配置较高,有独立显卡。② 有私密的数据需要处理,担心泄密。③需要和本地工作流结合,处理高频任务或复杂任务。④ 日常使用量大,调用API需要收费,本地部署能省钱。⑤ 想要在开源模型基础上,做个性化的定制版本。

这么说有点复杂,我用DeepSeek总结了下,APP或网页与本地部署的使用场景。

二、大模型本地部署基本步骤

第一步:安装ollama

本地部署首先要安装ollama,你可以把它理解为,一个装AI的盒子,把AI装在盒子里,方便管理。

1. 首先在浏览器搜索ollama,会出现ollama官网,点击进入。

2. 进入官网后,点击中间的Download。

3. 根据自己的电脑类型,选择不同版本。

苹果电脑选最左边(蓝色框),Windows系统选最右边(红色框),之后点击下载(绿色框)。

4. 下载后,点击安装。

如果桌面出现了ollama图标,说明软件安装成功。图标就是下图的羊驼。

特别说明:最好安装在C盘,安装在其它盘,需要重新配置环境变量。

第二步,选择要安装的模型

5. 还是在刚刚的ollama官网,点击右上角红框的位置。

6. 在弹出的界面,点击红框的“Models”选项

7. 点击选择deepseek-r1

8. 选择不同参数的模型

这里的数字越大,参数越多,性能越强,1.5b代表模型具备15亿参数。

我的电脑16G显存,运行14b参数模型时,需要大约11.5G显存。如果是1.5b版本,2G以下的显存就可以运行,甚至不需要独立显卡,核显就可以。如果是32b参数的,就需要32G显存啦,可以根据自己的电脑性能选择。

下面选择1.5b参数做示范。

9. 复制命令

选择1.5b参数后,复制红框中的命令“ollama run deepseek-r1:1.5b”。

第三步,安装模型

10. 打开命令行

同时按下键盘上的Win和R键,弹出如下窗口。

在弹出的窗口中,输入cmd,点击确定,打开命令行,就像下面这样。

11. 输入下载命令

在打开的命令行里,输入上面复制的命令“ollama run deepseek-r1:1.5b”。

点击键盘上的“Enter”键,模型会自动下载。

12. 与模型对话

下载成功后,就可以与模型对话啦。

此时大模型安装在你的电脑上,就算断网也可以继续用,也不用担心数据泄露。

第四步,后续运行模型

这里还有一个问题,当你关闭电脑后,下次再打开ollama。会发现点击ollama的图标,电脑没反应。

因为你点击图标,只是启动了ollama,想要和大模型聊天,还是需要打开命令行。

13. 继续通过命令行和大模型聊天

同时按下键盘上的Win和R键,在弹出的窗口里输入cmd,点击确定打开命令行。在命令行界面,输入刚刚的命令“ollama run deepseek-r1:1.5b”。因为你之前已经下载过,这次无需下载,可以直接和模型聊天。


如何系统学习掌握AI大模型?

AI大模型作为人工智能领域的重要技术突破,正成为推动各行各业创新和转型的关键力量。抓住AI大模型的风口,掌握AI大模型的知识和技能将变得越来越重要。

学习AI大模型是一个系统的过程,需要从基础开始,逐步深入到更高级的技术。

这里给大家精心整理了一份全面的AI大模型学习资源,包括:AI大模型全套学习路线图(从入门到实战)、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等,资料免费分享

在这里插入图片描述

1. 成长路线图&学习规划

要学习一门新的技术,作为新手一定要先学习成长路线图方向不对,努力白费

这里,我们为新手和想要进一步提升的专业人士准备了一份详细的学习成长路线图和规划。可以说是最科学最系统的学习成长路线。
在这里插入图片描述

2. 大模型经典PDF书籍

书籍和学习文档资料是学习大模型过程中必不可少的,我们精选了一系列深入探讨大模型技术的书籍和学习文档,它们由领域内的顶尖专家撰写,内容全面、深入、详尽,为你学习大模型提供坚实的理论基础(书籍含电子版PDF)

在这里插入图片描述

3. 大模型视频教程

对于很多自学或者没有基础的同学来说,书籍这些纯文字类的学习教材会觉得比较晦涩难以理解,因此,我们提供了丰富的大模型视频教程,以动态、形象的方式展示技术概念,帮助你更快、更轻松地掌握核心知识

在这里插入图片描述

4. 2024行业报告

行业分析主要包括对不同行业的现状、趋势、问题、机会等进行系统地调研和评估,以了解哪些行业更适合引入大模型的技术和应用,以及在哪些方面可以发挥大模型的优势。

在这里插入图片描述

5. 大模型项目实战

学以致用 ,当你的理论知识积累到一定程度,就需要通过项目实战,在实际操作中检验和巩固你所学到的知识,同时为你找工作和职业发展打下坚实的基础。

在这里插入图片描述

6. 大模型面试题

面试不仅是技术的较量,更需要充分的准备。

在你已经掌握了大模型技术之后,就需要开始准备面试,我们将提供精心整理的大模型面试题库,涵盖当前面试中可能遇到的各种技术问题,让你在面试中游刃有余。

在这里插入图片描述

全套的AI大模型学习资源已经整理打包,有需要的小伙伴可以微信扫描下方CSDN官方认证二维码,免费领取【保证100%免费

在这里插入图片描述

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐