1 安装ollama

执行命令:curl -fsSL https://ollama.com/install.sh | sh

2、查看ollama状态

systemctl status ollama

3、配置ollama环境变量

vim /etc/systemd/system/ollama.service

添加环境变量

Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*" # 跨域处理
Environment="OLLAMA_MODELS="/opt/ollama/models"

4、重启服务

systemctl daemon-reload

systemctl restart ollama.service

5、部署deepseek模型

可以使用ollama pull 命令下载deepseek模块,也可以使用ollama run 运行模型(未下载会首先下载)。

ollama run deepseek-r1:xxxb

6、配置docker 镜像源

1)设置镜像源:

"https://docker.m. daocloud. io/",
"https://huecker.io/",
"https://dockerhub.timeweb.cloud",
"https://noohub.ru/",
"https://dockerproxy.com",
"https://docker.mirrors.ustc.edu.cn",
"https://xx4bwyg2.mirror.aliyuncs.com",
"http://f1361db2.m.daocloud.io",
"https://registry.docker-cn.com",
"http://hub-mirror.c.163.com"

2)重启docker

systemctrl daemon-reload

systemctrl restart docker.service

7、安装ragflow

1)下载:

使用命令下载:git clone https://github.com/infiniflow/ragflow.git

后者直接登录url手动下载。

2)配置

修改docker目录下的 .env ,进行参数配置:

注销 RAGFLOW_IMAGE=infiniflow/ragflow:v0.16.0-slim

使用 RAGFLOW_IMAGE=infiniflow/ragflow:v0.16.0

3)运行安装命令

docker compose -f ./docker/docker-compose.yml up -d

7、使用ragflow创建知识库

打开电脑自带的浏览器,访问http://localhost:80/,进行注册

完成之后就登录即可

这里可以设置成中文。

点击右上角的头像,点击【模型提供商】

找到ollama,点击【添加模型】

模型类型选择chat,win+r,输入cmd,输入命令ollama list,查看自己安装模型名称,复制然后输入到模型名称,基础url,输入http://自己的ip地址:11434。最后点击【确定】按钮。

如何查看自己的ip地址?win+r,输入cmd,输入命令ipconfig,根据下图标红的进行查看

再点击【系统模型设置】

选择刚才添加的模型,然后点击确定

回到知识库界面,点击【创建知识库】,

输入知识库名称,例如:java面经

然后配置知识库,把语言改成中文

选择好相应的嵌入模型和解析方法。

点击【数据集】,再点击【新增文件】,上传文件,有点慢,哈哈哈

上传完成之后,对文件进行解析,解析速度与文件大小和电脑的内存大小有关。

解析完成之后,点击上面的【聊天】按钮,新建助理

填入相关信息、选择好相应的知识库,点击确定。

输入你想问的问题,这样一个知识库就完成了

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐