文章目录

• • 为什么要搭建本地个人知识库
  • 1、安装OLLAMA
  • 2、安装docker desktop
  • 3、下载Dify

为什么要搭建本地个人知识库

很多人有这样的需求：网上爆火的deepseek、chatgpt、QWen等AI大模型属于通用AI模型，但是想将AI应用到自己所在的行业，也就是训练一个行业专业的AI专家，模型微调操作复杂、需要大量数据支撑、需要好的硬件配置进行长时间的训练，因此搭建本地的个人知识库是一个很好的选择，适用于小规模数据集并且不需要额外的资源消耗，本地搭建知识库更符合企业安全可靠的需求。

知识库是一种 “检索 + 生成” 的方式，主要用于增强大模型的知识范围，但不会修改模型本身。
大致流程如下：

前排提示，文末有大模型AGI-CSDN独家资料包哦！

• 存储数据：使用embeding嵌入模型，将文本数据（如文档、网页、数据库）等离散数据，转换成连续的向量表示，并存储进一个向量数据库（如 FAISS、Weaviate）。
• 查询数据：当用户提问时，先在知识库中检索出相关内容。
• 生成答案：将检索到的内容作为上下文传递给 LLM，让模型基于这些信息生成回答。

优点
✅ 即时更新：添加/修改知识库内容后，AI 可立即使用最新信息，无需重新训练模型。
✅ 数据安全：数据可控，不需要把敏感信息交给大模型训练。
✅ 成本低：不需要大量计算资源，只需搭建一个向量数据库即可。
✅ 适合小数据集：适用于 FAQ、企业文档查询、法律法规等场景。

在探索了多个如AnythingLLM、ragflow等知识库集成模型，最后发现Dify最好用，效果好、精确度高且不吃硬件配置，官方显示2核4G的配置即可使用，因此本文先从环境配置说起，配置好搭建个人知识库的环境。

1、安装OLLAMA

进入ollama官网下载：https://ollama.com/

• 在下载文件夹打开cmd，设置安装路径，否则会下载到C盘：OllamaSetup.exe /DIR="D:\Ollama"，然后一路点next

• 在高级系统设置-环境变量-系统变量那里，新建一个OLLAMA_MODELS的变量，值为存放LLM模型的文件路径，否则会下载到C盘，新建一个OLLAMA_HOST的变量，值设为:11454，表示监听所有ip的11454端口，否则docker容器内无法访问到ollama

• 下载模型，输入命令：ollama run deepseek-r1下载7b大小的模型
  
  

模型下载完，系统变量配置完，在浏览器输入：localhostt:11454查看ollama是否在运行

2、安装docker desktop

进入docker官网下载windows桌面版： https://www.docker.com/

-如果要安装docker到其他盘，输入命令，如果C盘够大就直接运行安装程序一路安装即可：

start /w "" "Docker Desktop Installer.exe" install -accept-license --installation-dir="D:\Docker" --wsl-default-data-root="D:\\Docker\\data" --windows-containers-default-data-root="D:\Docker"

–installation-dir表示安装的docker存储路径
–wsl-default-data-root表示存储WLS的镜像、容器、卷等数据的目录
–windows-containers-default-data-root表示程序的默认路径

• 如果是window，那就下载docker desktop，并且需要开启电脑的虚拟化，在控制面板-程序-启用或关闭windows功能这里，点击启用这两个选项，然后按照提示重启电脑
  
  

• 打开cmd，输入：wsl --update把wsl2更新到最新版本，这个过程可能会很慢，有梯子的挂梯子，否则可能很慢而且会报错
  

全部配置好后，就可以打开docker desktop界面，查看镜像保存位置是否是自己设置的：

3、下载Dify

前往Dify的github官网：https://github.com/langgenius/dify
选择使用git下载或者直接下载源码
接着按照官网的指引，进入docker文件夹，复制.env文件，使用compose命令进行编译：

cd dify
cd docker
cp .env.example .env
docker compose up -d

运行过程出错，可选择更换加速镜像、搭梯子等方式加速下载。

• 运行完成后，在浏览器输入：localhost:80打开dify界面，输入邮箱密码用户名，第一次输入的为管理员
  
• 点击右上角头像，打开设置，配置下载的deepseek模型
  
  

点击添加模型配置模型，输入ollama list查看下载的模型，把模型信息和url信息填入，

输入ipconfig查看当前网络的ip，需要注意的是，如果连的是wifi并且选择DHCP动态获取ip的话，每次ip可能会改变，需要重新修改模型配置

至此，流程配置结束，选择创建一个应用，使用本地部署的模型进行对话

如遇到安装问题，可以在评论区提问呀！安装配置这些已经踩了太多坑

---

最先掌握AI的人，将会比较晚掌握AI的人有竞争优势

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

倘若大家对大模型抱有兴趣，那么这套大模型学习资料肯定会对你大有助益。

针对0基础小白：

如果你是零基础小白，快速入门大模型是可行的。
大模型学习流程较短，学习内容全面，需要理论与实践结合
学习计划和方向能根据资料进行归纳总结

包括：大模型学习线路汇总、学习阶段，大模型实战案例，大模型学习视频，人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型！

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

👉AI大模型学习路线汇总👈

大模型学习路线图，整体分为7个大的阶段：（全套教程文末领取哈）

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

👉大模型视频和PDF合集👈

这里我们能提供零基础学习书籍和视频。作为最快捷也是最有效的方式之一，跟着老师的思路，由浅入深，从理论到实操，其实大模型并不难。

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

👉获取方式：

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓