deep-searcher项目:DeepSeek+Milvus打造个人知识库(Windows版)
2、原先尝试使用Windows操作系统,发现milvus有个包不适配,所以安装了WSL2,环境搭建可以参考3、模型调用硅基流动上的DeepSeek-V3,Embedding模型调用硅基流动上的BAAI/bge-m34、环境中安装了miniconda,所以通过conda来建虚拟环境,也可以参考官方来建虚拟环境。
0.说明
1、本文仅尝试实现:https://github.com/zilliztech/deep-searcher/tree/master
2、原先尝试使用Windows操作系统,发现milvus有个包不适配,所以安装了WSL2,环境搭建可以参考链接
3、模型调用硅基流动上的DeepSeek-V3,Embedding模型调用硅基流动上的BAAI/bge-m3
4、环境中安装了miniconda,所以通过conda来建虚拟环境,也可以参考官方来建虚拟环境
1.本地环境准备
1.1 创建虚拟环境
# 创建虚拟环境
conda create -n deep-seacher python==3.11
# 激活
conda activate deep-seacher
注意后续要确保处于该虚拟环境中。
1.2 获取项目源码并安装第三方依赖
1.2.1 创建项目路径
此处我在home目录下创建了项目路径,具体为/home/hql_hql/myapps/deepsearcher
主要的命令:mkdir
进入到该路径下:
cd ~/myapps/deepsearcher
1.2.2 获取项目源码
从 Github 上获取项目源码。
git clone https://github.com/zilliztech/deep-searcher.git
1.2.3 安装 DeepSearcher 及其依赖第三方库
# 进入对应路径
cd deep-searcher
# 安装依赖
pip install -e .
最终安装的依赖:
2. deepsearcher示例运行
2.1 获取siliconflow的API密钥
登陆siliconflow官网,在API密钥页面获取个人账户的密钥,如没有请新建。新用户注册会有一定的额度,不过我示例运行后,花费了不到1毛钱。
2.2 设置环境变量
此处主要设置SILICONFLOW_API_KEY变量的值。
在home路径下的.bashrc文件中添加该变量,值为2.1中的密钥。
vi ~/.bashrc
添加一行(“i”进入编辑模式,“Esc”-“:wq!”保存退出):
export SILICONFLOW_API_KEY=sk-xxx
source一下环境变量。
source ~/.bashrc
可以通过echo $SILICONFLOW_API_KEY是否生效。
2.3 修改模型信息
修改examples 目录下的 basic_example.py 文件,将LLM模型设置为硅基流动的 DeepSeek-V3,将embedding模型设置为硅基流动的BAAI/bge-m3。
在config= Configuration()后添加如下代码:
config.set_provider_config("llm", "SiliconFlow", {"model": "deepseek-ai/DeepSeek-V3"})
config.set_provider_config("embedding", "SiliconflowEmbedding", {"model": "BAAI/bge-m3"})
2.4 运行
运行basic_example.py文件。
python basic_example.py
结果如下:
......
更多推荐
所有评论(0)