
win11+deepseek+ollama+ragflow+docker打造个人知识库
建立关于一个类别的知识库,然后上床相关的资料文档,切记一定要解析成功才可使用,过程并无大多问题,但在知识库建立后聊天问答时可能会遇到一些问题,这里总结两条我遇到了的。导入模型时间比较长,可尝试科学上网,模型导完后可用以下命令测试模式是否导入成功,也可直接用上一步代码运行导入的大模型,输入hello测试大模型是否正常回答。设置环境变量,这个很重要很重要,模型存放位置最好放在非系统盘中,否则后期模型会
一、项目部署参考B站资料,具体链接如下:
【知识科普】【纯本地化搭建】【不本地也行】DeepSeek + RAGFlow 构建个人知识库_哔哩哔哩_bilibili
二、具体步骤:
1、ollamam安装
ollamam是一个大模型管理平台,我们将在ollama中导入deepseek-r1,前提是系统必须是win10以上操作系统,win7和window server 2019亲测不行
下载地址:Ollama
ollama将以默认方式安装在C盘,大约需要5G的空间,请提前预留好系统空间
设置环境变量,这个很重要很重要,模型存放位置最好放在非系统盘中,否则后期模型会引爆C盘,设置完后一定先重启系统在导入大模型.
2、在ollama中导入大模型
在ollama网站中选择对应的大模型,这里选择deepseek-r1:7b,复制导入模型的命令
ollama run deepseek-r1:7b
导入模型时间比较长,可尝试科学上网,模型导完后可用以下命令测试模式是否导入成功,也可直接用上一步代码运行导入的大模型,输入hello测试大模型是否正常回答
ollama list
如果以上测试都正常,则ollama和对应大模型都已经正常安装,下一步开始安装argflow来搭建知识库
三、安装ragflow+docker,搭建个人知识库
1、下载安装ragflow-main
ragflow是一个检索增强生成的技术架构,用来构建知识库
下载地址:https://github.com/infiniflow/ragflow
解压项目后进入docker目录中修改.env文件,将镜像源改为非精简版,该版本包含embedding,embedding是用来将文本转化为向量的
2、下载安装docker
docker是一种容器,可以将项目运行所需要的环境打包到一个容器中,将项目在容器中运行可以省去大量配置各种软件环境的复杂操作
docker在win11系统中安装依赖wsl,先安装wsl服务,并将wsl升级到wsl2,否则docker安装不成功
3、在dockers中安装ragflow
先进入docker,在setting/resource中将image路径修改到其它分区中,否则安装默认系统分区,会爆炸系统分区
然后运行以下命令,将ragflow部署到docker容器中
cd ragflow
docker compose -f docker/docker-compose.yml up -d
下载过程比较慢,可以尝试快乐上网
4、运行ragflow
ragflow本地地址为:http://localhost:80,请提前关闭系统IIS服务,以免80端口被占用
打开后添加大模型:
这里模型类型选chat,uid填入ollama中拉下的模型,名称严格复制ollama list中查到的名称
url中的ip地址要选择wsl中的虚拟地址,而不是本机ip地址
最后在系统模式设置中设置添加的模型
四、创建个人知识库
建立关于一个类别的知识库,然后上床相关的资料文档,切记一定要解析成功才可使用,过程并无大多问题,但在知识库建立后聊天问答时可能会遇到一些问题,这里总结两条我遇到了的
1、提问后模型无法回答,提示以下错误
原因:内存不足
解决:调整windows对docker desktop的内存分配。进入docker desktop的settings-resources页面,发现资源由windows分配,指引我们去修改系统对WSL2的资源分配
win + r,调出运行,输入 %UserProfile%,进入用户文件夹
在用户文件夹下创建一个新的文件,改名为 .wslconfig,内容如下
[wsl2]
memory=16GB # 分配的内存
processors=12 # 处理器核心数量,考虑超线程
swap=0
localhostForwarding=true
保存文件后,重启docker和WSL
2、提问后模型无法回答,提示以下错误
原因:知识库中数据集文件失效
解决:重新上传数据集并解析
五、以上就是安装全过程的分享
更多推荐
所有评论(0)