
DeepSeek+Dify+Ollama实现AI个人知识库
AI现在发展速度真的是一日千里,未来已来,任何想要追赶上未来脚步的人都应该了解AI所带来变化并学会拥抱AI.本文讲解如何使用这三个软件搭建个人知识库.
AI现在发展速度真的是一日千里,未来已来,任何想要追赶上未来脚步的人都应该了解AI所带来变化并学会拥抱AI.本文讲解如何使用这三个软件搭建个人知识库.
1: 技术介绍
1.1: Ollama是什么?
Ollama一个可以让你在本地启动并运行大型语言模型的工具!属于开源的本地大语言模型(LLM)运行框架.
1.2: DeepSeek是什么?
DeepSeek是一款由国内人工智能公司研发的LLM大型语言模型,最重要的是这款AI已经开源.开源就代表着大家可以在此基础上进行定制自己的AI.
1.3: Dify是什么?
Dify是一款生成式AI应用引擎,主要用于构建和部署基于大语言模型的智能应用。该平台通过可视化编排工具和自动化流程,帮助用户快速开发AI驱动的功能模块(如对话机器人、内容生成工具等),并可以随意切换大模型如 deepseek chatGPT。极大的降低AI应用开发门槛。用户无需编写复杂代码,可通过图形界面完成数据管理、提示词工程、模型调参等操作.
2:怎么下载这三个软件
国内可能无法访问,建议先处理一下如何访问github.不然下载不了的,或者也可以私聊我要安装包
https://blog.csdn.net/qq_45398836/article/details/141431692
Ollama下载地址: https://ollama.com/
DeepSeek下载地址: 这个在 Ollama软件内部下载即可,不需要单独下载安装包.
Dify下载地址: https://github.com/langgenius/dify
3:怎么安装这三个软件
3.1:安装Ollama
安装后就会即可在cmd命令行查看
这个时候就代表已经安装成功了.
3.2:安装DeepSeek
访问ollama官网,找到deepseek
点一下这个按钮, 就复制了你需要的模型版本,返回cmd,ctrl+v
粘贴,按下回车运行,等待下载完毕。命令如下: ollama run deepseek-r1:1.5b
(1.5B是最小的模型,配置要求最低,大部分电脑都能带动.当然这个AI的智商也不太高.),
下载成功后,就可以在本地使用了.
启动deepseek命令: ollama run deepseek-r1:1.5b
这个时候deepseek就本地部署完成了.
3.3安装Dify
dify支持linux,window,mac多种系统下运行, 不过需要docker环境支持.所以需要先下载docker.由于我用的windows环境所以选择了docker desktop版本
docker下载链接: https://docs.docker.com/desktop/setup/install/windows-install/#wsl-2-backend
点击后会自动安装docker.出现这个图标就代表安装成功了.接下来安装dify
下载dify链接: https://github.com/langgenius/dify 然后选择这个ZIP方式下载.
解压这个文件夹.然后进入dify/docker目录下面. 在这个地方输入 cmd 就会出现窗口
然后输入 命令: docker compose up -d 就会启动dify了
出现这个代表启动dify启动成功. 如果下载失败.需要配置一下docker镜像
{
"builder": {
"gc": {
"defaultKeepStorage": "20GB",
"enabled": true
}
},
"experimental": false,
"registry-mirrors": [
"https://docker.m.daocloud.io",
"https://docker-0.unsee.tech",
"https://mirror.aliyuncs.com"
]
}
下载完成后,在浏览器输入设置一下账号密码 : http://localhost/install
然后在浏览器输入进行访问: http://localhost
到这一步就代表所有的软件都按照好了.
4: 如何搭建AI知识库?
4.1: 将deepseek模型添加到dify中
在设置页面,点击“模型供应商”,在“添加更多模型供应商”列表里找到"Ollama"的羊驼图标,点击“添加模型”填写如下的配置.
其余选项,默认即可,最后点击“保存”,deepseek就配置好了。如配置正确,在“模型列表”之下就会显示本地安装的模型了,见下图:
4.2:创建自己的知识库
选择知识库->创建知识库
我们可以在知识库中上传个人的文件资料,上传后通过设置分段格式向量化文档,这里默认参数直接保存. 如果后续有需要可以详细了解每个参数的含义.来定制知识库.

4.3:创建AI应用
创建后点击进入
对这个AI应用进行编排工作流程., 知识检索->点击+, 选择自己的知识库.
然后点击LLM 找到安装好的deepseek, 然后点击发布.
然后我们就可以进行对话了.可以看到这个AI应用在回答的时候先参考了知识库,然后在通过deepseek进行分析.
到这个地方个人的AI知识库就初步搭建完成.但这只是简单的AI应用,类似于编程中的Hello world ! 如果想要好用的AI知识库.还需要学习很多AI相关的知识. 对知识库进行编排,采用专用的知识库Embedding模型. 对deepseek的参数进行定制等等.
参考文档: Docker Compose 部署 | Dify
更多推荐
所有评论(0)