本地知识库RAGFlow+Ollama+DeepSeek
根据说明,slim镜像是不含Embedding Models的,需要修改RAGFlow的docker配置,文件位于你解压目录的docker/.env。配置如下,Url要本机的IPv4地址(在cmd或PowerShell中输入ipconfig查看),点确定。注意,解析状态是“未解析”,点右侧的三角型按钮。RAGFlow需要借助Docker安装,如果PC上没有部署Docker,需要先安装下载安装Doc
1. 安装模型部署工具Ollama和DeepSeek模型
参考这个帖子的第1和2节,第一个DeepSeek助手Ollama+DeepSeek+langchain-CSDN博客
配置环境变量OLLAMA_HOST,0.0.0.0:11434

2. 下载安装Docker
RAGFlow需要借助Docker安装,如果PC上没有部署Docker,需要先安装下载安装Docker。
官网链接:Docker: Accelerated Container Application Development
(1)点击Download Docker Desktop选择“Download for Windows - AMD64”下载
(2)双击”Docker Desktop Installer.exe”自动安装完成
(3)配置Docker镜像路径
默认是在C盘,考虑磁盘空间问题,最好设置到一个空间比较宽裕的磁盘目录。
从桌面或开始菜单,打开“Docker Desktop”软件然后配置镜像地址,点击”Settings”—“Resources”—”Advanced”先配置镜像存储位置
Disk image location例如存储路径:“D:\Docker\DockerDesktopWSL”
(4)配置Docker下载镜像源 (可选,如果有梯子,就可以不用配置)

(5)重启Docker服务,配置生效
点击右下角【Apply & restart】,等待完成即可
注:如果安装有困难,可以在网上找一下详细的指导。
3. 下载安装RAGFlow
官方安装指导:
ragflow/README_zh.md at main · infiniflow/ragflow · GitHub
(1)下载次新版本的ZIP压缩包


(2)解压这个ZIP到并修改配置
根据说明,slim镜像是不含Embedding Models的,需要修改RAGFlow的docker配置,文件位于你解压目录的docker/.env



如果你遇到 Docker 镜像拉不下来的问题,可以在 docker/.env 文件内根据变量 RAGFLOW_IMAGE 的注释提示选择华为云或者阿里云的相应镜像。
-
华为云镜像名:swr.cn-north-4.myhuaweicloud.com/infiniflow/ragflow
-
阿里云镜像名:registry.cn-hangzhou.aliyuncs.com/infiniflow/ragflow

(3)安装ragflow
从cmd或PowerShell进入RAGFlow目录,执行如下命令安装
docker compose -f docker/docker-compose.yml up -d
(4)检查安装成功
docker logs -f ragflow-server

4. 在RAGFlow构建个人知识库
(1) 浏览器访问 http://localhost:80
注册后就可以登录了
(2)配置本地部署的模型
点右上角头像->模型提供商->找到Ollama->添加模型
配置如下,Url要本机的IPv4地址(在cmd或PowerShell中输入ipconfig查看),点确定。

(3)配置系统模型设置
配置本地安装的的聊天模型和RAGFlow镜像自带的嵌入模型

(4)创建知识库

配置中,把语言改成“中文”,其它使用默认值就行。点保存
官方详细指导:ragflow/docs/guides/configure_knowledge_base.md at v0.15.1 · infiniflow/ragflow · GitHub
(5)创建数据集
点新增文件,上传知识文档。注意,解析状态是“未解析”,点右侧的三角型按钮。解析完成后,解析状态是“成功”。
(6)新建助理
在“聊天”中新建助理,知识库选择在上面创建的名字,其它内容可以自己调整,点确定。
点加号,新建聊天,可以试试效果还不错。

5. RAGFlow技术栈

(1)文档引擎,从docker/.env中看出默认是用的elasticsearch,而不是向量数据库infinity
The type of doc engine to use.
Available options:
- elasticsearch (default)
- infinity (https://github.com/infiniflow/infinity)
DOC_ENGINE=${DOC_ENGINE:-elasticsearch}
(2) Built-in embedding models:
-
BAAI/bge-large-zh-v1.5
-
BAAI/bge-reranker-v2-m3
-
maidalun1020/bce-embedding-base_v1
-
maidalun1020/bce-reranker-base_v1
更多推荐
所有评论(0)