1. 安装模型部署工具Ollama和DeepSeek模型

参考这个帖子的第1和2节,第一个DeepSeek助手Ollama+DeepSeek+langchain-CSDN博客

配置环境变量OLLAMA_HOST,0.0.0.0:11434

2. 下载安装Docker

RAGFlow需要借助Docker安装,如果PC上没有部署Docker,需要先安装下载安装Docker。

官网链接:Docker: Accelerated Container Application Development 

(1)点击Download Docker Desktop选择“Download for Windows - AMD64”下载

(2)双击”Docker Desktop Installer.exe”自动安装完成

(3)配置Docker镜像路径

默认是在C盘,考虑磁盘空间问题,最好设置到一个空间比较宽裕的磁盘目录。

从桌面或开始菜单,打开“Docker Desktop”软件然后配置镜像地址,点击”Settings”—“Resources”—”Advanced”先配置镜像存储位置

Disk image location例如存储路径:“D:\Docker\DockerDesktopWSL”

(4)配置Docker下载镜像源 (可选,如果有梯子,就可以不用配置)

(5)重启Docker服务,配置生效

点击右下角【Apply & restart】,等待完成即可

注:如果安装有困难,可以在网上找一下详细的指导。

3. 下载安装RAGFlow

官方安装指导:

ragflow/README_zh.md at main · infiniflow/ragflow · GitHub

(1)下载次新版本的ZIP压缩包

(2)解压这个ZIP到并修改配置

根据说明,slim镜像是不含Embedding Models的,需要修改RAGFlow的docker配置,文件位于你解压目录的docker/.env

比如F:\StudyDeepSeek\ragflow\docker,修改.env文件,

如果你遇到 Docker 镜像拉不下来的问题,可以在 docker/.env 文件内根据变量 RAGFLOW_IMAGE 的注释提示选择华为云或者阿里云的相应镜像。

  • 华为云镜像名:swr.cn-north-4.myhuaweicloud.com/infiniflow/ragflow

  • 阿里云镜像名:registry.cn-hangzhou.aliyuncs.com/infiniflow/ragflow

(3)安装ragflow

从cmd或PowerShell进入RAGFlow目录,执行如下命令安装

docker compose -f docker/docker-compose.yml up -d

(4)检查安装成功

docker logs -f ragflow-server

4. 在RAGFlow构建个人知识库

(1) 浏览器访问 http://localhost:80

注册后就可以登录了

(2)配置本地部署的模型

点右上角头像->模型提供商->找到Ollama->添加模型

配置如下,Url要本机的IPv4地址(在cmd或PowerShell中输入ipconfig查看),点确定。

(3)配置系统模型设置

配置本地安装的的聊天模型和RAGFlow镜像自带的嵌入模型

(4)创建知识库

配置中,把语言改成“中文”,其它使用默认值就行。点保存

官方详细指导:ragflow/docs/guides/configure_knowledge_base.md at v0.15.1 · infiniflow/ragflow · GitHub

(5)创建数据集

点新增文件,上传知识文档。注意,解析状态是“未解析”,点右侧的三角型按钮。解析完成后,解析状态是“成功”。

(6)新建助理

在“聊天”中新建助理,知识库选择在上面创建的名字,其它内容可以自己调整,点确定。

点加号,新建聊天,可以试试效果还不错。

5. RAGFlow技术栈

(1)文档引擎,从docker/.env中看出默认是用的elasticsearch,而不是向量数据库infinity

​
The type of doc engine to use.
Available options:
- elasticsearch (default)
- infinity (https://github.com/infiniflow/infinity)
DOC_ENGINE=${DOC_ENGINE:-elasticsearch}
​

(2) Built-in embedding models:

  • BAAI/bge-large-zh-v1.5

  • BAAI/bge-reranker-v2-m3

  • maidalun1020/bce-embedding-base_v1

  • maidalun1020/bce-reranker-base_v1

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐