当你在使用DeepSeek或其它AI时,也许可能遇到这样的问题:

❌你的知识迭代 VS 模型训练进度

“刚整理完行业前沿白皮书,却发现DeepSeek还卡在半年前的版本断层”

❌数据绞刑架 VS 硬盘保险箱

“把机密合同喂给AI?这和在推特公开裸奔有什么区别”

以上问题,可以通过使用DeepSeek构建一个私有知识库来解决。通过构建知识库:

✅ 本地化模型实时吞噬新文档,你的知识库永远比大模型快一个版本周期

✅ 数据从不出本地硬盘,不用担心数据系列

接下来,本文将介绍如何利用DeepSeek-R1模型的能力,借助Ollama与AnythingLLM两个工具,实现个人知识库的构建。

1.Ollama本地部署DeepSeek-R1模型

访问ollama官网,点击download。https://ollama.com/

img

根据电脑系统选择相应的版本。点击下载。若下载速度过慢,可关注根根AI公众号并回复“ollama”领取安装包。

img

打开下载的安装包,点击“Install” ,等待Ollama安装完成。

img

等待安装完成后,按win+r键,输入cmd调出命令行窗口。

输入

ollama --version

按下回车后出现版本号,即为安装成功。

img

我们选择推理能力更强的deepseek-r1模型进行本地部署。小编的笔记本显存为6G,因此选择最小的1.5b模型进行部署,如果显存更大的话,可以选择更大的模型。例如,选择7b模型能得到更好的回复,那么下面代码中的“1.5b”就要改为“7b”。

在命令行窗口中输入:

ollama run deepseek-r1:1.5b

按下回车,模型开始自动下载。

img

模型下载成功后,自动进入对话模式,我们可以在这里跟模型进行对话。

img

至此,恭喜你已经完成了deepseek-r1模型的本地部署。

2.AnythingLLM的下载与使用

(1)下载AnythingLLM

首先进入AnythingLLM的官网https://anythingllm.com/,点击“Download for desktop”。

img

根据电脑系统,选择合适的版本进行下载。注意,页面中提示由于最近的DDOS事件,可能导致下载链接不可用。若无法下载,可关注根根AI公众号,回复“AnythingLLM”领取资源。

img

打开下载好的安装包,选择“仅为我安装”与安装路径,软件将会自动安装。

img

img

安装过程中,可能会出现以下错误。已经成功安装Ollama后,此错误可不予理会。

img

(2)AnythingLLM的配置

进入AnythingLLM后,点击Get started,开始使用。

img

选择模型提供为“Ollama”,选择模型为“deepseek-r1:1.5b”或其它已经下载好的模型,点击下一步箭头。

img

后面可跳过邮箱注册步骤,点击下一步箭头,新建工作区,设置一个工作区名称,继续点击下一步。

img

首先点击左下角的小扳手,打开设置,找到 人工智能提供商 -> Embedder首选项,选择嵌入引擎提供商为Ollama,模型选择为deepseek-r1:1.5b,最后点击保存更改。点击左下角的返回键(原来小扳手的位置),返回首页。

img

接下来将会进入AnythingLLM主页,点击刚才设置的工作区,即可进入对话。

img

点击工作区中的上传标识,即可上传文件。

img

第一步,点击或拖拽上传文件。我们在这里上传了两篇公众号的文章、DeepSeek的两篇相关论文、一份变电站的相关书籍、一份关于Java的QA问答对。

第二步,选择想要上传到工作区的文件。我们在这里选择两篇跟Word接入DeepSeek相关的两篇公众号文章。在这里选择文件时要注意,由于本地部署的模型较小,检索能力没有那么强大,因此尽量选择与工作区内容相关的文档进行上传。内容不相似的文档可以新建多个工作区。

第三步,点击“Move to Workspace”将文件移动到工作区。

img

移动完成后,点击“Save and Embed”。若文件较大,此步骤会消耗较长的时间。

img

等待上传成功后,即可开始对话。

3.效果测试

(1)根据文档回答问题

告诉DeepSeek"总结资料,如何将DeepSeek接入Word",DeepSeek能够按照文档的内容进行总结,生成输出,但DeepSeek目前暂时还无法解析图片,因此只能根据文档内的文本内容做出回答。

img

img

(2)根据《伤寒杂病论》做出诊断

首先,新建一个工作区,将txt格式的《伤寒杂病论》作为资料上传。

img

向DeepSeek提问“我现在腹痛难忍,请告诉我如何用药”,DeepSeek按照伤寒杂病论中的内容,告诉我应该使用“柴胡桂枝汤”,并给出了具体的配方。

img

(3)数据分析

新建一个工作区,并将一份变电站的各个指标的变化数据上传,接下来需要DeepSeek来分析表内某一个时间段的数据。我们可以通过AI,直接对表格数据进行分析。

img

DeepSeek无疑是2025开年AI圈的一匹黑马,在一众AI大模型中,DeepSeek以低价高性能的优势脱颖而出。DeepSeek的上线实现了AI界的又一大突破,各大科技巨头都火速出手,争先抢占DeepSeek大模型的流量风口。

DeepSeek的爆火,远不止于此。它是一场属于每个人的科技革命,一次打破界限的机会,一次让普通人也能逆袭契机。

DeepSeek的优点

read-normal-img

掌握DeepSeek对于转行大模型领域的人来说是一个很大的优势,目前懂得大模型技术方面的人才很稀缺,而DeepSeek就是一个突破口。现在越来越多的人才都想往大模型方向转行,对于想要转行创业,提升自我的人来说是一个不可多得的机会。

那么应该如何学习大模型

大模型时代,火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业?”“谁的饭碗又将不保了?”等问题热议不断。

不如成为「掌握AI工具的技术人」,毕竟AI时代,谁先尝试,谁就能占得先机!

想正式转到一些新兴的 AI 行业,不仅需要系统的学习AI大模型。同时也要跟已有的技能结合,辅助编程提效,或上手实操应用,增加自己的职场竞争力。

大模型岗位需求越来越大,但是相关岗位人才难求,薪资持续走高,AI运营薪资平均值约18457元,AI工程师薪资平均值约37336元,大模型算法薪资平均值约39607元。

read-normal-img

掌握大模型技术你还能拥有更多可能性:

• 成为一名全栈大模型工程师,包括Prompt,LangChain,LoRA等技术开发、运营、产品等方向全栈工程;

• 能够拥有模型二次训练和微调能力,带领大家完成智能对话、文生图等热门应用;

• 薪资上浮10%-20%,覆盖更多高薪岗位,这是一个高需求、高待遇的热门方向和领域;

• 更优质的项目可以为未来创新创业提供基石。

可能大家都想学习AI大模型技术,也想通过这项技能真正达到升职加薪,就业或是副业的目的,但是不知道该如何开始学习,因为网上的资料太多太杂乱了,如果不能系统的学习就相当于是白学。为了让大家少走弯路,少碰壁,这里我直接把都打包整理好,希望能够真正帮助到大家。

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费在这里插入图片描述

👉AI大模型学习路线汇总👈

大模型学习路线图,整体分为7个大的阶段:(全套教程文末领取哈)

read-normal-img

第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;

第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;
第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;
第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;
第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;
第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈
光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。

read-normal-img

👉大模型视频和PDF合集👈
观看零基础学习书籍和视频,看书籍和视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。

read-normal-img

read-normal-img

👉学会后的收获:👈

• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

read-normal-img

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费在这里插入图片描述

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐