本文主要介绍了在Windows系统中使用Ollama、AnythingLLM来搭建Deepseek本地知识库。

1. 下载安装Ollama

1.1 下载Ollama

Download Ollama on Windows

1.2 Ollama默认安装在C盘,此处需要更改安装位置,在你的其他盘新建"Ollama"文件夹,复制目录的绝对路径

1.3 到ollama安装程序目录中输入“cmd”,确定

1.4 输入以下内容,回车之后默认进行安装到“Ollama“目录中

注意:图片中命令“DIR=”后面是1.2中新建的Ollama绝对路径

1.5 在命令行中输入 ollama -v,可以得到版本信息,安装成功

1.6 ollama默认下载模型保存在C盘,此处进行修改目录,在你的其他盘新建"models"文件夹,复制目录的绝对路径

1.7 在电脑搜索栏搜索”编辑系统环境变量“

1.8 修改系统变量,变量值为”models“文件夹的绝对路径,确定保存应用

1.9  重启电脑,让环境变量生效

1.10 到ollama官网复制下载deepseek r1模型的指令

1.11 选择适合你配置的模型大小,复制指令到命令行中,以7b为例,进行下载

 等待下载,如果下载速度越来越慢,则”Ctrl + C“,暂停下载,再输入以下指令,继续刚才的进度下载,直到下载成功,出现”success“字符

 

2. 下载安装anythingllm

https://anythingllm.com

2.1 启动angthingllm,点击设置,配置LLM首选项为”Ollama“

2.2 配置Embedder为你的模型

 2.3 配置语言

2.4 按图中顺序新建工作区,配置聊天模型,点击保存

2.5  在工作区上传文件到对应工作区的知识库

 

 2.6 将文件移到工作区

2.7 保存 

 2.8  将所有上传的文件应用到工作区

2.9 可以在工作区聊天框开始聊天,你的所有提问DS都会关联相对应的知识库进行回答

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐