把之前的deepseek +本地知识库的部署内容做了一版，

增加内容：

1, ollama 安装

2，cherry studio在线模型配置

3，anythingLLM的在线以及文本分割配置

先画个数据流程流程。

Ollama安装(非必须)

14B及以上有推理能力，32b比较实用。显卡最低12GB。内存最好32GB.

相关的软件，我已经放入到网盘，网不好的同学，可以直接下载。

下载链接：https://pan.quark.cn/s/b69829720b68

下载ollama

https://ollama.com/download/

默认为当前电脑的对应的版本，直接下载即可。下载以后，一路点点点即可。

环境变量设置

安装完以后先不要使用，先设置下环境变量。默认模型下载到C盘。一个模型最小也得几个GB.

通过 我的电脑->右键-> 属性-> 高级系统设置-> 环境变量->新建用户变量即可。

OLLAMA_HOST: 0.0.0.0` `OLLAMA_MODELS：E:\ai\ollama\models

OLLAMA_HOST：设置为0.0.0.0 会将ollama服务暴露到所有的网络，默认ollama只绑定到了127.0.0.1，只能通过localhost或127.0.0.1访问。

OLLAMA_MODELS：设置了模型的存放的地址。

https://ollama.com/library/deepseek-r1

安装DeepSeek模型（可选）

打开：https://ollama.com/library/deepseek-r1
选择适合自己的模型，12GB~16GB显存建议最大选择14B,24GB显存建议32B.

安装语言模型

# 下载模型``ollama pull deepseek-r1:14b``# 下载或运行模型，正常ollama不会运行模型的``ollama run deepseek-r1:14b

安装向量模型

基于本地的deepseek搭建个人知识库。使用本地服务,安装嵌入模型，用于将文本数据转换为向量标识的模型。

需要先下载向量模型

# 命令行窗口执行拉取下即可。``ollama pull bge-m3

基于Cherry Studio搭建（首选）

cherry Studio 文本分割不能选择文本长度和重叠度。

下载cherry studio

根据自己的环境下载cherry studio

安装的时候，注意安装到其他磁盘，不要在c盘安装。

本地模型知识库

配置本地ollama

操作步骤：

1. 找到左下角设置图标

2. 选择模型服务

3. 选择ollama

4. 点击管理

5. 点击模型后面的加号（会自动查找到本地安装的模型）

6. 减号表示已经选择了

配置在线模型：

1，在模型服务里，选择对应的模型服务商，比如硅基流动

2，注意开关

3，填写自己的密钥

1，选择嵌入模型

2，选择要添加的模型

知识库配置

1. 选择知识库

2. 选择添加

3. 选择嵌入模型，这个时候有在线和本地的

4. 填写知识库名称

添加知识文档

cherry可以添加文档，也可以添加目录（这个极其方便），添加完以后出现绿色的对号，表示向量化完成。

搜索验证

1. 点击搜索知识库

2. 输入搜索顺序

3. 点击搜索 大家可以看下我搜索的内容和并没有完全匹配，不过已经和意境关联上了。

大模型处理

1. 点击左上角的聊天图标

2. 点击助手

3. 点击默认助手（你也可以添加助手）

4. 选择大模型

5. 选择本地deepseek，也可以选择自己已经开通的在线服务

6. 设置知识库（不设置不会参考）

7. 输入提问内容

8. 发问

大家可以看到deepseek已经把结果整理了，并告诉了我们参考了哪些资料。

满血版

差别就是大模型的选择，在模型服务里配置下在线的deepseek服务即可。

如果你的知识库有隐私数据，不要联网！不要联网！不要联网！

方案二 基于AnythingLLM搭建

下载AnythingLLM Desktop

下载以后，安装的时候，注意安装到其他磁盘，不要在c盘安装。

AnythingLLM 配置

点击左下角的设置

Ollama配置

1. 点击 LLM首选项

2. 选择ollama作为模型提供商

3. 选择已安装的deepsek 模型

4. 注意下地址，如果本地就127.0.0.1

5. 保存

腾讯云配置（推荐，目前最稳定的）

1，选择openAi通用接口

2，配置腾讯云的大模型BASE地址 : https://api.lkeap.cloud.tencent.com/v1

3，配置获取到的APIKEY

4，输入模型：deepseek-r1

5, 设置Token context window 模型单次能够处理的最大长度（输入+输出），如果你的使用知识库建议放大，想多关联上下文也调大；
6，max tokens 模型最大生成token

apiKey申请地址

https://console.cloud.tencent.com/lkeap/api

接口地址

https://cloud.tencent.com/document/product/1772/115969

ollama show deepseek-r1:14b`  `Model`    `architecture        qwen2`    `parameters          14.8B`    `context length      131072`    `embedding length    5120`    `quantization        Q4_K_M

14b的最大长度是131072，ollama 默认是不用设置的。

向量库模型配置

切换使用本地ollama,也可以自带的。

1，选择ollama

2，选择对应的向量模型

3，设置分段最大长度

4，注意下url

文本分割配置

1，设置文本块大小，根据自己的文本输入。

2，设置文本块重叠(建议重叠10%~25%)

配置工作区

1. 在1里点击New Thread 新建一个聊天框

2. 默认会话

3. 上传知识库文档

将文档拖拽到上传框。ps: 只需要拖拽一次就行了，它在聊天框能看到。不知道为什么，我这拖拽以后，没看到上传成功，然后又拖拽了几次。然后聊天框就好多份。

当然你可以配置远程文档，confluence、github都可以。

ps: 需要注意的是文档在工作区间内是共用的。

api功能

AnythingLLM 可以提供api访问的功能，这个可以作为公共知识库使用。

总结

整个操作下来，AnythingLLM 的体验没有cherry好。AnythingLLM就像一个包壳的web应用(后来查了下，确实是)。AnythingLLM 得具备一定的程序思维，给技术人员用的。非技术人员还是使用cherry吧。作为喜欢折腾的开发人员，我们可以结合dify使用。

最后

个人知识库+本地大模型的优点

• 隐私性很好，不用担心自己的资料外泄、离线可用

• 在工作和学习过程中对自己整理的文档，能快速找到，并自动关联

• 在代码开发上，能参考你的开发习惯，快速生成代码

创作不易，辛苦大家动动发财的小手。

如何学习AI大模型 ？

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。【保证100%免费】🆓

CSDN粉丝独家福利

这份完整版的 AI 大模型学习资料已经上传CSDN，朋友们如果需要可以扫描下方二维码&点击下方CSDN官方认证链接免费领取 【保证100%免费】

读者福利： 👉👉CSDN大礼包：《最新AI大模型学习资源包》免费分享 👈👈

（👆👆👆安全链接，放心点击）

对于0基础小白入门：

如果你是零基础小白，想快速入门大模型是可以考虑的。

一方面是学习时间相对较短，学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

👉1.大模型入门学习思维导图👈

要学习一门新的技术，作为新手一定要先学习成长路线图，方向不对，努力白费。

对于从来没有接触过AI大模型的同学，我们帮你准备了详细的学习成长路线图&学习规划。可以说是最科学最系统的学习路线，大家跟着这个大的方向学习准没问题。（全套教程文末领取哈）

👉2.AGI大模型配套视频👈

很多朋友都不喜欢晦涩的文字，我也为大家准备了视频教程，每个章节都是当前板块的精华浓缩。

👉3.大模型实际应用报告合集👈

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。（全套教程文末领取哈）

👉4.大模型落地应用案例PPT👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。（全套教程文末领取哈）

👉5.大模型经典学习电子书👈

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。（全套教程文末领取哈）

👉6.大模型面试题&答案👈

截至目前大模型已经超过200个，在大模型纵横的时代，不仅大模型技术越来越卷，就连大模型相关的岗位和面试也开始越来越卷了。为了让大家更容易上车大模型算法赛道，我总结了大模型常考的面试题。（全套教程文末领取哈）

👉学会后的收获：👈
• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习

CSDN粉丝独家福利

这份完整版的 AI 大模型学习资料已经上传CSDN，朋友们如果需要可以扫描下方二维码&点击下方CSDN官方认证链接免费领取 【保证100%免费】

读者福利： 👉👉CSDN大礼包：《最新AI大模型学习资源包》免费分享 👈👈

（👆👆👆安全链接，放心点击）