相较于其他人工智能模型,DeepSeek 有免费且功能强大的优势。但其容易崩溃且幻觉率高的问题,极大限制了实际应用价值;通过本地部署 DeepSeek 并结合知识库搭建的方案,可以解决以上两个问题。下面将详细介绍如何本地部署并且搭建个人知识库。

前排提示,文末有大模型AGI-CSDN独家资料包哦!

01 本地部署 DeepSeek 模型

1.下载安装平台

打开浏览器,在地址栏输入 “https://ollama.com/”,回车进入对应网站。如下图所示。

图1

点击页面中的下载按钮。下载完成后,点击安装按钮,将其安装到电脑上。如下图所示。

图2

2.验证安装是否成功

按下键盘的 “win + R” 键,在弹出的窗口中输入 “cmd”,进入命令窗口。如下图所示。

图3

在命令窗口中输入 “0llama -v”,若能看到版本号,则表示安装成功。如下图所示。

图4

3.下载并运行大模型

回到下载平台的网站,点击 “大模型” 选项,进入 DeepSeek - R1 的页面。如下图所示。

图5

页面中有多个版本的大模型,越往后版本体积越大、占用磁盘空间越多,可根据需求选择,这里以最小版本为例。如下图所示。

图6

复制该版本对应的命令,粘贴到之前打开的命令窗口中,回车后电脑会开始下载。如下图所示。

图7

下载完成后,即可在命令窗口中与大模型进行对话。到这一步就可以说是已经布置好本地部署了。

图8

在下一节将介绍构建知识库的具体步骤。

02 搭建个人知识库

1.下载安装知识库软件(Anythingllm)

打开浏览器,访问网站 “https://anythingllm.com/” ,根据自己的操作系统选择对应的版本进行下载。

图9

下载完成后,双击文件进行安装,安装完成后点击 “完成” 运行软件。

图10

2.软件初始设置

软件启动后会出现向导,点击 “开始”,在下方选择 “ollama”,然后选择已安装且可正常运行的大模型,点击右侧按钮进入下一步。

图11

连续点击下一步,遇到需要提供邮箱的步骤时,点击下方的跳过选项。

随后为工作区命名(例如 “学习”),点击右侧按钮完成建立。

图12

3.配置工作区及投喂知识

点击工作区后面的齿轮图标,在聊天设置中,确保已选择 “ollama” 提供模型对话,将默认的英文角色定义修改为中文(例如 “你是一个大学教授,根据知识库内容,用中文回复。”),然后保存设置。

图13

点击工作区后面的上传符号,进入知识库界面,点击 “上传” 按钮。

图14

选择准备好的资料上传到左侧的所有文档中。

图15

勾选上传的资料,将其移动到下面的当前工作区中,点击保存,确保文档成功移至右侧后关闭界面。

图16

验证知识库搭建成功:在左侧新建一个对话进程,尝试让大模型介绍相关内容(如 “讲一下什么是热力学第二定律。”)。

图17

若未读取到知识库内容,点击知识库后面的图钉图标将其固定。

图18

再次新建对话进程,让大模型介绍相关内容,若能读取到上传的资料,则表示知识库搭建成功,之后可让大模型根据知识库内容进行后续操作。

结语

本地部署 DeepSeek 并搭建个人知识库,既解决了网页版易崩溃的问题,又凭借知识库可降低幻觉率。希望这套方案能帮你高效用 AI,探索更多可能。

读者福利:倘若大家对大模型感兴趣,那么这套大模型学习资料一定对你有用

针对0基础小白:

如果你是零基础小白,快速入门大模型是可行的。
大模型学习流程较短,学习内容全面,需要理论与实践结合
学习计划和方向能根据资料进行归纳总结

包括:大模型学习线路汇总、学习阶段,大模型实战案例,大模型学习视频,人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型!

😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

请添加图片描述

👉AI大模型学习路线汇总👈

大模型学习路线图,整体分为7个大的阶段:(全套教程文末领取哈)

第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;

第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;

第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;

第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;

第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;

第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。

在这里插入图片描述

👉大模型视频和PDF合集👈

这里我们能提供零基础学习书籍和视频。作为最快捷也是最有效的方式之一,跟着老师的思路,由浅入深,从理论到实操,其实大模型并不难

在这里插入图片描述

👉学会后的收获:👈

• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

👉获取方式:

😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐