DeepSeek黑科技炸场！手搓本地知识库+RAG调优，教你打造企业级AI管家！

你是否曾希望能够直接向 PDF 或技术手册提问？本文将向你展示如何使用开源推理工具 DeepSeek R1 和运行本地 AI 模型的轻量级框架 Ollama 来构建检索增强生成（RAG）系统。

datian1234

661人浏览 · 2025-03-23 08:00:00

datian1234 · 2025-03-23 08:00:00 发布

前言

为什么选择DeepSeek R1?

DeepSeek R1 是一个可与 OpenAI 的 o1 相媲美但成本低 95% 的模型，正在革新 RAG 系统。开发者喜欢它的以下特点：

精准检索：每个回答仅使用 3 个文档片段。严格的提示控制：通过"我不知道"的回应来避免产生幻觉。
本地执行：消除了云 API 的延迟。

建立本地的RAG系统你需要准本些什么？

1、准备Ollama

Ollama 让你能够在本地运行 DeepSeek R1 等模型。
下载：Ollama 设置：通过终端安装并运行以下命令。

ollama run deepseek-r1  \# For the 7B model (default)

2、DeepSeek R1 模型变体

DeepSeek R1 的参数规模从 1.5B 到 671B 不等。建议从 1.5B 模型开始，用于轻量级的 RAG 应用。

ollama run deepseek-r1:1.5b

本地RAG步骤操作详解

(下面的部分操作国内可能需要换个镜像源)

第一步：导入库

我们将使用：

LangChain - 用于文档处理和检索。
Streamlit - 用于构建用户友好的网页界面。

 import streamlitasst from langchain_community.document_loaders
 import PDFPlumberLoader from langchain_experimental.text_splitter 
 import SemanticChunker from langchain_community.embeddings 
 import FAISS from langchain_community.llms
 import Ollama
 import HuggingFaceEmbeddings from langchain_community.vectorstores

第二步：上传和处理 PDF

利用 Streamlit 的文件上传器来选择本地 PDF。使用 PDFPlumberLoader 来高效提取文本，无需手动解析。

# Streamlit file uploader
uploaded_file = st.file_uploader("Upload a PDF file", type="pdf") 
if uploaded_file: # Save PDF temporarily
withopen("temp.pdf","wb") as f:
f.write(uploaded_file.getvalue()) # Load PDF text
loader = PDFPlumberLoader( "temp.pdf" )
docs = loader.load()

第三步：战略性地分块文档

利用 Streamlit 的文件上传器来选择本地 PDF。

使用 PDFPlumberLoader 来高效提取文本，无需手动解析

# Split text into semantic chunks 
text_splitter = SemanticChunker(HuggingFaceEmbeddings())
documents = text_splitter.split_documents(docs

第四步：创建可搜索的知识库

为文档块生成向量嵌入，并将它们存储在 FAISS 索引中。嵌入能够实现快速、上下文相关的搜索。

# Generate embeddings  embeddings = HuggingFaceEmbeddings()  vector_store = FAISS.from_documents(documents, embeddings)  # Connect retriever  retriever = vector_store.as_retriever(search_kwargs={"k": 3})  # Fetch top 3 chunks

第五步：配置 DeepSeek R1

使用 DeepSeek R1 1.5B 模型设置检索问答链（RetrievalQA chain）。这确保了回答是基于 PDF 的内容，而不是依赖模型的训练数据。

llm = Ollama(model="deepseek-r1:1.5b")  # Our 1.5B parameter model  
# Craft the prompt template
prompt = """  1. Use ONLY the context below.  2. If unsure, say "I don’t know".  3. Keep answers under 4 sentences.  Context: {context}  Question: {question}  Answer:  """

QA_CHAIN_PROMPT = PromptTemplate.from_template(prompt)

第六步：组装 RAG 链

将上传、分块和检索整合成一个连贯的流水线。

这种方法为模型提供了经过验证的上下文，提高了准确性。

# Chain 1: Generate answers 
llm_chain = LLMChain(llm=llm, prompt=QA_CHAIN_PROMPT)

# Chain 2: Combine document chunks

document_prompt = PromptTemplate(template= "Context:\ncontent:{page_content}\nsource:{source}" ,input_variables=[ "page_content" , "source" ]  )
# Final RAG pipeline qa = RetrievalQA(combine_documents_chain=StuffDocumentsChain(llm_chain=llm_chain,document_prompt=document_prompt),retriever=retriever  )

第七步：启动网页界面

Streamlit 使用户能够输入问题并获得即时答案。

查询会检索匹配的文档块，将它们输入模型，并实时显示结果。

# Streamlit UI
user_input = st.text_input( "Ask your PDF a question:" )
if user_input:
withst.spinner("Thinking..."):

response = qa(user_input)[ "result" ]

st.write(response)