一、二步为介绍，如果想要看怎样接入本地知识库，可直接从 第三步：AnythingLLM 安装 开始

一、RAG介绍

RAG 知识库概述

1. 定义

RAG（Retrieval-Augmented Generation）是一种结合检索技术与生成模型的自然语言处理方法，通过引入外部知识库提升系统回复的准确性与信息量。

2. 核心原理

• 检索优先：生成回答前，先从知识库中检索相关信息（类似“开卷考试”）。
• 动态生成：基于检索结果，利用大语言模型生成最终回答。

3. 应用步骤

1. 创建知识库

   将原始数据转化为结构化存储形式（如向量数据库）。

2. 查询知识库

   通过向量检索等技术匹配最相关信息。

3. 生成答案

   结合检索结果与生成模型输出最终回答。

4. 应用场景

• 企业级产品：如 FastGPT 等即用型平台。
• 自定义项目：个人/团队用于学习、科研或商业场景。

5. GraphRAG 技术

• 微软提出：通过图谱化处理数据，增强语义关联性。
• 优势：提升检索精度。
• 局限：数据处理成本较高，依赖 AI 预处理。

本地部署 RAG 的优势

1. 数据隐私与安全

• 本地化存储：敏感数据无需上传至外部服务器，规避泄露风险。
• 完全控制：自主管理访问权限，确保信息私密性。

2. 高度定制化

• 私有知识库：按需构建专属知识库。
• 参数调优：灵活调整模型配置以适配特定需求。

3. 成本效益

• 一次性投入：避免云服务持续订阅费用。
• 零额外成本：无数据存储/处理附加费。

4. 离线可用性

• 无需网络：支持断网环境下运行，保障服务稳定性。

5. 检索效率提升

• 精准匹配：快速定位知识库关键信息。
• 智能生成：结合检索结果生成高质量回答。

6. 个性化适配

• **场景定制**：自由配置功能模块以满足垂直领域需求（如医疗、金融）。**

二、DeepSeek-R1 模型本地部署

首先需要先本地部署一下DeepSeek，这里可以参考我上一篇文章 ：
DeepSeek R1+Windows本地部署，保姆级教程，小白也能轻松部署 低配电脑可用，让R1不在 “繁忙”

https://editor.csdn.net/md/?articleId=145796894

三、AnythingLLM 安装

AnythingLLM则是一个知识整合的智能助手，能够帮助用户快速部署和整合DeepSeek和其他大语言模型。通过AnythingLLM，用户可以更方便地创建和管理本地知识库，实现高效的知识管理和智能问答‌,它提供 Web 界面，易于管理和调用，适合个人和企业打造专属 AI 助手。

官网地址：https://anythingllm.com

安装

下载完成后我们进行安装：


安装时一直下一步就行，安装过程中AnythingLLM会自动安装调用Ollama的库函数：

安装好开始配置 这里选Ollama 地址按它默认的填就行。


工作区名字随便取就行。

安装完成后，进入程序主界面，会有一段欢迎提示，如果觉得英文比较难读，可以通过点击左下角 扳手 按钮，

修改软件语言为中文

这个时候在底部对话框就可以进行对话了

上面的回答就是 DeepSeek-R1:8B 模型默认的回答，大家可以看出回答的效果并不好

建立个人知识库

这个时候，我们可以将第一步的 什么是RAG 相关内容拷贝出来创建一个文档 测试Rag.docx
选择我们建立的Test工作区，上传此文档：

上传文档并准备移入工作区，如下图：

把文档移动到工作区，并点击Save and Embed，等系统处理完成：

文档 Embed = 把文本变成向量 + 存入数据库 + 进行相似搜索。它是 AI 知识库、搜索推荐、智能问答的核心技术，让 AI 理解文本语义，而不再只是匹配关键词。

测试Rag.docx文档的内容是：

1本地部署 RAG 的优势

  

2### 1. 数据隐私与安全

  

3• </strong>本地化存储<strong>：敏感数据无需上传至外部服务器，规避泄露风险。

  

4• </strong>完全控制<strong>：自主管理访问权限，确保信息私密性。

  

5### 2. 高度定制化

  

6• </strong>私有知识库<strong>：按需构建专属知识库。

  

7• </strong>参数调优<strong>：灵活调整模型配置以适配特定需求。

  

8### 3. 成本效益

  

9• </strong>一次性投入<strong>：避免云服务持续订阅费用。

  

10• </strong>零额外成本<strong>：无数据存储/处理附加费。

  

11### 4. 离线可用性

  

12• </strong>无需网络<strong>：支持断网环境下运行，保障服务稳定性。

  

13### 5. 检索效率提升

  

14• </strong>精准匹配<strong>：快速定位知识库关键信息。

  

15• </strong>智能生成<strong>：结合检索结果生成高质量回答。

  

16### 6. 个性化适配

  

17• </strong>场景定制<strong>：自由配置功能模块以满足垂直领域需求（如医疗、金融）。

大模型结合上下文给我们的回答：

1<think>

  

2嗯，用户问的是“rag的优势”，也就是RAG的优势。首先，我需要回顾一下之前提供的上下文，了解RAG的相关信息。

  

3

  

4从上下文中，我已经了解到RAG的核心是结合检索技术和生成模型来提升回答的准确性和信息量。它有六个主要优势：一次性投入、零额外成本、离线可用性、检索效率提升和个性化适配。

  

5

  

6现在，我需要将这些优势详细化，用中文解释清楚每个优势是什么，以及它们如何帮助用户或系统。

  

7

  

8首先，一次性投入意味着用户不需要支付持续的云服务费用，这节省了预算。然后，零额外成本说明RAG不会增加数据存储或处理费用，这对于降低成本非常有用。

  

9

  

10离线可用性方面，RAG可以在没有网络的情况下运行，确保服务的稳定性，这对于需要可靠性的应用场景很重要。

  

11

  

12检索效率提升则体现在快速定位关键信息和生成高质量的回答上，这有助于提高用户体验。个性化适配意味着可以根据不同领域的需求定制功能模块，增强适用性和针对性。

  

13

  

14在思考过程中，我可能会考虑是否有遗漏的优势或者是否可以更详细地解释每个优势的具体应用场景。例如，RAG如何具体提升检索效率，或者它如何与生成模型协同工作来优化回答质量。

  

15

  

16另外，用户可能对RAG的实际应用场景感兴趣，但当前上下文没有提供具体的例子，所以在回答中可以建议用户提供更多细节以便进一步阐述优势。

  

17

  

18总的来说，我需要将上述信息有条理地组织起来，确保每个优势都有清晰的解释，并且语言简洁明了，易于理解。

  

19</think>

  

20

  

21RAG（Retrieval-Augmented Generation）的优势主要体现在以下几个方面：

  

22

  

231. </strong>一次性投入<strong>：无需持续付费，避免云服务的订阅费用，适合需要长期稳定服务的企业或个人。

  

24

  

252. </strong>零额外成本<strong>：不增加数据存储或处理费用，仅需初始投资即可开始使用。

  

26

  

273. </strong>离线可用性<strong>：支持断网运行，确保在没有网络连接的情况下也能正常工作，保障服务的稳定性。

  

28

  

294. </strong>检索效率提升<strong>：通过精确匹配知识库中的关键信息和智能生成回答，提供高质量且相关的信息。

  

30

  

315. </strong>个性化适配<strong>：可以根据具体需求自由配置功能模块，适用于医疗、金融等垂直领域的定制化服务。

  

32

  

33这些优势使得RAG在多种应用场景中展现出高效、可靠且低成本的特点。

可以看出，AnythingLLM通过调用deepseek模型完成了知识问答

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

• 大模型 AI 能干什么？
• 大模型是怎样获得「智能」的？
• 用好 AI 的核心心法
• 大模型应用业务架构
• 大模型应用技术架构
• 代码示例：向 GPT-3.5 灌入新知识
• 提示工程的意义和核心思想
• Prompt 典型构成
• 指令调优方法论
• 思维链和思维树
• Prompt 攻击和防范
• …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

• 为什么要做 RAG
• 搭建一个简单的 ChatPDF
• 检索的基础概念
• 什么是向量表示（Embeddings）
• 向量数据库与向量检索
• 基于向量检索的 RAG
• 搭建 RAG 系统的扩展知识
• 混合检索与 RAG-Fusion 简介
• 向量模型本地部署
• …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

• 为什么要做 RAG
• 什么是模型
• 什么是模型训练
• 求解器 & 损失函数简介
• 小实验2：手写一个简单的神经网络并训练它
• 什么是训练/预训练/微调/轻量化微调
• Transformer结构简介
• 轻量化微调
• 实验数据集的构建
• …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

• 硬件选型
• 带你了解全球大模型
• 使用国产大模型服务
• 搭建 OpenAI 代理
• 热身：基于阿里云 PAI 部署 Stable Diffusion
• 在本地计算机运行大模型
• 大模型的私有化部署
• 基于 vLLM 部署大模型
• 案例：如何优雅地在阿里云私有部署开源大模型
• 部署一套开源 LLM 项目
• 内容安全
• 互联网信息服务算法备案
• …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】