AI现在发展速度真的是一日千里,未来已来,任何想要追赶上未来脚步的人都应该了解AI所带来变化并学会拥抱AI.本文讲解如何使用这三个软件搭建个人知识库.

1: 技术介绍

1.1: Ollama是什么? 

Ollama一个可以让你在本地启动并运行大型语言模型的工具!属于开源的本地大语言模型(LLM)运行框架.

1.2: DeepSeek是什么?

DeepSeek是一款由国内人工智能公司研发的LLM大型语言模型,最重要的是这款AI已经开源.开源就代表着大家可以在此基础上进行定制自己的AI.

1.3: Dify是什么?

Dify是一款生成式AI应用引擎,主要用于构建和部署基于大语言模型的智能应用。该平台通过可视化编排工具和自动化流程,帮助用户快速开发AI驱动的功能模块(如对话机器人、内容生成工具等),并可以随意切换大模型如 deepseek chatGPT。极大的降低AI应用开发门槛。用户无需编写复杂代码,可通过图形界面完成数据管理、提示词工程、模型调参等操作.

2:怎么下载这三个软件

国内可能无法访问,建议先处理一下如何访问github.不然下载不了的,或者也可以私聊我要安装包

https://blog.csdn.net/qq_45398836/article/details/141431692

Ollama下载地址: https://ollama.com/ 

DeepSeek下载地址: 这个在 Ollama软件内部下载即可,不需要单独下载安装包.

Dify下载地址:  https://github.com/langgenius/dify   

3:怎么安装这三个软件

3.1:安装Ollama

安装后就会即可在cmd命令行查看

这个时候就代表已经安装成功了.

3.2:安装DeepSeek

访问ollama官网,找到deepseek

点一下这个按钮, 就复制了你需要的模型版本,返回cmd,ctrl+v粘贴,按下回车运行,等待下载完毕。命令如下: ollama run deepseek-r1:1.5b

(1.5B是最小的模型,配置要求最低,大部分电脑都能带动.当然这个AI的智商也不太高.),

下载成功后,就可以在本地使用了.

启动deepseek命令: ollama run deepseek-r1:1.5b

这个时候deepseek就本地部署完成了.

3.3安装Dify

dify支持linux,window,mac多种系统下运行, 不过需要docker环境支持.所以需要先下载docker.由于我用的windows环境所以选择了docker desktop版本

docker下载链接: https://docs.docker.com/desktop/setup/install/windows-install/#wsl-2-backend

点击后会自动安装docker.出现这个图标就代表安装成功了.接下来安装dify

下载dify链接:     https://github.com/langgenius/dify    然后选择这个ZIP方式下载.

解压这个文件夹.然后进入dify/docker目录下面.  在这个地方输入 cmd  就会出现窗口

然后输入 命令: docker compose up -d    就会启动dify了

出现这个代表启动dify启动成功. 如果下载失败.需要配置一下docker镜像

{
  "builder": {
    "gc": {
      "defaultKeepStorage": "20GB",
      "enabled": true
    }
  },
  "experimental": false,
  "registry-mirrors": [
    "https://docker.m.daocloud.io",
    "https://docker-0.unsee.tech",
    "https://mirror.aliyuncs.com"
  ]
}

下载完成后,在浏览器输入设置一下账号密码 : http://localhost/install

然后在浏览器输入进行访问:  http://localhost

到这一步就代表所有的软件都按照好了. 

4: 如何搭建AI知识库?

4.1: 将deepseek模型添加到dify中

在设置页面,点击“模型供应商”,在“添加更多模型供应商”列表里找到"Ollama"的羊驼图标,点击“添加模型”填写如下的配置.

其余选项,默认即可,最后点击“保存”,deepseek就配置好了。如配置正确,在“模型列表”之下就会显示本地安装的模型了,见下图:

4.2:创建自己的知识库

选择知识库->创建知识库

我们可以在知识库中上传个人的文件资料,上传后通过设置分段格式向量化文档,这里默认参数直接保存. 如果后续有需要可以详细了解每个参数的含义.来定制知识库.

4.3:创建AI应用

创建后点击进入

对这个AI应用进行编排工作流程., 知识检索->点击+, 选择自己的知识库.

然后点击LLM 找到安装好的deepseek, 然后点击发布.

然后我们就可以进行对话了.可以看到这个AI应用在回答的时候先参考了知识库,然后在通过deepseek进行分析.

到这个地方个人的AI知识库就初步搭建完成.但这只是简单的AI应用,类似于编程中的Hello world !  如果想要好用的AI知识库.还需要学习很多AI相关的知识. 对知识库进行编排,采用专用的知识库Embedding模型. 对deepseek的参数进行定制等等. 

参考文档: Docker Compose 部署 | Dify

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐