DeepSeek本地部署并基于deepseek搭建个人知识库,过程总结
相较于其他人工智能模型,DeepSeek 有免费且功能强大的优势。但其容易崩溃且幻觉率高的问题,极大限制了实际应用价值;通过本地部署 DeepSeek 并结合知识库搭建的方案,可以解决以上两个问题。下面将详细介绍如何本地部署并且搭建个人知识库。
相较于其他人工智能模型,DeepSeek 有免费且功能强大的优势。但其容易崩溃且幻觉率高的问题,极大限制了实际应用价值;通过本地部署 DeepSeek 并结合知识库搭建的方案,可以解决以上两个问题。下面将详细介绍如何本地部署并且搭建个人知识库。
前排提示,文末有大模型AGI-CSDN独家资料包哦!
01 本地部署 DeepSeek 模型
1.下载安装平台
打开浏览器,在地址栏输入 “https://ollama.com/”,回车进入对应网站。如下图所示。

图1
点击页面中的下载按钮。下载完成后,点击安装按钮,将其安装到电脑上。如下图所示。

图2
2.验证安装是否成功
按下键盘的 “win + R” 键,在弹出的窗口中输入 “cmd”,进入命令窗口。如下图所示。

图3
在命令窗口中输入 “0llama -v”,若能看到版本号,则表示安装成功。如下图所示。

图4
3.下载并运行大模型
回到下载平台的网站,点击 “大模型” 选项,进入 DeepSeek - R1 的页面。如下图所示。

图5
页面中有多个版本的大模型,越往后版本体积越大、占用磁盘空间越多,可根据需求选择,这里以最小版本为例。如下图所示。

图6
复制该版本对应的命令,粘贴到之前打开的命令窗口中,回车后电脑会开始下载。如下图所示。

图7
下载完成后,即可在命令窗口中与大模型进行对话。到这一步就可以说是已经布置好本地部署了。

图8
在下一节将介绍构建知识库的具体步骤。
02 搭建个人知识库
1.下载安装知识库软件(Anythingllm)
打开浏览器,访问网站 “https://anythingllm.com/” ,根据自己的操作系统选择对应的版本进行下载。

图9
下载完成后,双击文件进行安装,安装完成后点击 “完成” 运行软件。

图10
2.软件初始设置
软件启动后会出现向导,点击 “开始”,在下方选择 “ollama”,然后选择已安装且可正常运行的大模型,点击右侧按钮进入下一步。

图11
连续点击下一步,遇到需要提供邮箱的步骤时,点击下方的跳过选项。
随后为工作区命名(例如 “学习”),点击右侧按钮完成建立。

图12
3.配置工作区及投喂知识
点击工作区后面的齿轮图标,在聊天设置中,确保已选择 “ollama” 提供模型对话,将默认的英文角色定义修改为中文(例如 “你是一个大学教授,根据知识库内容,用中文回复。”),然后保存设置。

图13
点击工作区后面的上传符号,进入知识库界面,点击 “上传” 按钮。

图14
选择准备好的资料上传到左侧的所有文档中。

图15
勾选上传的资料,将其移动到下面的当前工作区中,点击保存,确保文档成功移至右侧后关闭界面。

图16
验证知识库搭建成功:在左侧新建一个对话进程,尝试让大模型介绍相关内容(如 “讲一下什么是热力学第二定律。”)。

图17
若未读取到知识库内容,点击知识库后面的图钉图标将其固定。

图18
再次新建对话进程,让大模型介绍相关内容,若能读取到上传的资料,则表示知识库搭建成功,之后可让大模型根据知识库内容进行后续操作。
结语
本地部署 DeepSeek 并搭建个人知识库,既解决了网页版易崩溃的问题,又凭借知识库可降低幻觉率。希望这套方案能帮你高效用 AI,探索更多可能。
读者福利:倘若大家对大模型感兴趣,那么这套大模型学习资料一定对你有用
针对0基础小白:
如果你是零基础小白,快速入门大模型是可行的。
大模型学习流程较短,学习内容全面,需要理论与实践结合
学习计划和方向能根据资料进行归纳总结
包括:大模型学习线路汇总、学习阶段,大模型实战案例,大模型学习视频,人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型!
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓


大模型学习路线图,整体分为7个大的阶段:(全套教程文末领取哈)
第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;
第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;
第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;
第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;
第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;
第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;
第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。
光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。

这里我们能提供零基础学习书籍和视频。作为最快捷也是最有效的方式之一,跟着老师的思路,由浅入深,从理论到实操,其实大模型并不难。

• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;
• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;
• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;
• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓
更多推荐



所有评论(0)