Ollama+AnythingLLM+Deepseek本地部署知识库-Windows系统
本文主要介绍了在Windows系统中使用Ollama、AnythingLLM来搭建Deepseek本地知识库
·
本文主要介绍了在Windows系统中使用Ollama、AnythingLLM来搭建Deepseek本地知识库。
1. 下载安装Ollama
1.1 下载Ollama
1.2 Ollama默认安装在C盘,此处需要更改安装位置,在你的其他盘新建"Ollama"文件夹,复制目录的绝对路径
1.3 到ollama安装程序目录中输入“cmd”,确定
1.4 输入以下内容,回车之后默认进行安装到“Ollama“目录中
注意:图片中命令“DIR=”后面是1.2中新建的Ollama绝对路径
1.5 在命令行中输入 ollama -v,可以得到版本信息,安装成功
1.6 ollama默认下载模型保存在C盘,此处进行修改目录,在你的其他盘新建"models"文件夹,复制目录的绝对路径
1.7 在电脑搜索栏搜索”编辑系统环境变量“
1.8 修改系统变量,变量值为”models“文件夹的绝对路径,确定保存应用
1.9 重启电脑,让环境变量生效
1.10 到ollama官网复制下载deepseek r1模型的指令
1.11 选择适合你配置的模型大小,复制指令到命令行中,以7b为例,进行下载
等待下载,如果下载速度越来越慢,则”Ctrl + C“,暂停下载,再输入以下指令,继续刚才的进度下载,直到下载成功,出现”success“字符
2. 下载安装anythingllm
2.1 启动angthingllm,点击设置,配置LLM首选项为”Ollama“
2.2 配置Embedder为你的模型
2.3 配置语言
2.4 按图中顺序新建工作区,配置聊天模型,点击保存
2.5 在工作区上传文件到对应工作区的知识库
2.6 将文件移到工作区
2.7 保存
2.8 将所有上传的文件应用到工作区
2.9 可以在工作区聊天框开始聊天,你的所有提问DS都会关联相对应的知识库进行回答
更多推荐
所有评论(0)