前言：当大模型遇见本地搜索

你是否遇到过这些问题？

• 想在企业内网部署智能搜索，但担心数据泄露风险？
• 需要定制搜索逻辑，但云端API灵活性不足？
• 网络环境不稳定时，搜索服务频繁中断？

博查AI搜索API的本地化方案完美解决了这些问题！通过将本地大模型与云端API结合，既能保障数据安全，又能享受实时搜索能力。本文将手把手教你如何实现这一技术方案，即使你是零基础开发者，也能轻松上手！

一、本地化原理：为什么能“既本地又智能”？

1.1 技术原理

博查API的本地化并非直接部署模型，而是通过以下方式实现：

1. 博查API增强：调用云端接口获取用户查询的实时网页/多模态数据
2. 本地大模型：在本地运行开源模型（如ChatGLM3、LLaMA等）处理搜索返回的结果并进行基础语义理解
3. 混合编排：通过代码逻辑整合本地与云端结果

这种架构既保护数据隐私，又保留实时搜索能力，特别适合以下场景：

• 企业内部知识库检索
• 医疗/金融领域的敏感查询
• 离线环境下的应急搜索

1.2 核心优势对比

传统云端搜索	本地 + 博查混合搜索
数据需上传至第三方服务器	敏感数据全程留在本地
完全依赖网络稳定性	断网时可切换至本地知识库
功能固定，难以定制	支持自定义搜索逻辑与结果过滤

二、环境搭建：10分钟完成全流程配置

2.1 安装本地大模型（以ChatGLM3-6B为例）

步骤1：安装依赖库

#使用Python 3.8+环境  
pip install transformers torch sympy 

步骤2：下载并加载模型

from transformers import AutoModelForCausalLM, AutoTokenizer 
# 下载模型
model = AutoModelForCausalLM.from_pretrained("THUDM/glm-edge-1.5b-chat", trust_remote_code=True)  
tokenizer = AutoTokenizer.from_pretrained("THUDM/glm-edge-1.5b-chat", trust_remote_code=True)  

input_text = "你好。你是谁？"
inputs = tokenizer(input_text, return_tensors="pt")

# 生成响应，限制 max_new_tokens 避免扩展
output = model.generate(**inputs, max_new_tokens=50, do_sample=True, temperature=0.7, top_p=0.9)

# 解码输出
response = tokenizer.decode(output[0], skip_special_tokens=True)
print(response)

常见问题：

• 显存不足：可改用量化模型（如chatglm3-6b-int4），显存占用降低50%。
• 下载速度慢：使用国内镜像源（如清华源）或离线包安装。

2.2 获取博查API密钥

1. 访问博查AI开放平台，注册并登录。
2. 进入「API Key管理」页面，点击「创建密钥」，生成格式为sk-xxxxxx的密钥。
3. 保存密钥，后续代码中需替换占位符。

三、代码实战：本地-云端混合搜索

基础版：5行核心代码

import requests
from transformers import AutoModelForCausalLM, AutoTokenizer  

# 加载模型
model = AutoModelForCausalLM.from_pretrained("THUDM/glm-edge-1.5b-chat", trust_remote_code=True)  
tokenizer = AutoTokenizer.from_pretrained("THUDM/glm-edge-1.5b-chat", trust_remote_code=True)  

def hybrid_search(query: str):
    # 1. 调用博查API获取搜索结果
    api_url = "https://api.bochaai.com/v1/web-search"
    headers = {"Authorization": "Bearer sk-你的秘钥"}
    response = requests.post(api_url, headers=headers, json={"query": query})
    results = response.json()

    # 2. 解析API返回数据，获取前3个网页摘要
    web_results = results.get("data", {}).get("webPages", {}).get("value", [])[:3]
    combined_text = "\n\n".join([item.get("snippet", "") for item in web_results])  # 提取摘要文本

    if not combined_text.strip():
        return "未找到相关内容。"

    # 3. 让本地模型总结搜索结果
    input_text = f"请你总结以下内容，并直接给出答案，不要复述原文。\n\n{combined_text}\n\n总结："
    inputs = tokenizer(input_text, return_tensors="pt")

    output = model.generate(**inputs, max_new_tokens=512, do_sample=True, top_p=0.9)
    summary = tokenizer.decode(output[0], skip_special_tokens=True)

    # 4. 仅返回最终总结结果（去掉输入文本）
    summary_cleaned = summary.replace(input_text, "").strip()
    
    return summary_cleaned  # 确保最终只输出总结

# 使用示例
print(hybrid_search("如何预防心血管疾病？"))

运行效果：

心血管疾病的预防方法包括初级预防、一级预防、二级预防和三级预防。动脉粥样硬化性疾病是心血管疾病致残致死的主要原因，因此心血管疾病的预防策略旨在控制可改变的动脉粥样硬化危险因素。通过健康饮食、适量运动、控制体重和尽早戒烟等方法，可以降低未来心血管事件的发生率。

四、进阶版：本地知识库优先搜索

场景：仅在内网返回完整数据

import sqlite3  
import requests

def secure_search(query: str, api_key: str):  
    # 1. 优先搜索本地数据库  
    conn = sqlite3.connect('internal_knowledge.db')  
    cursor = conn.execute(  
        "SELECT title, content FROM docs WHERE content LIKE ?",  
        ('%' + query + '%',)  
    )  
    local_results = [dict(row) for row in cursor]  

    if local_results:  
        return local_results  # 返回内部结果  

    # 2. 无本地结果时调用博查API  
    headers = {"Authorization": f"Bearer {api_key}"}  
    response = requests.post(  
        "https://api.bochaai.com/v1/web-search",  
        headers=headers,  
        json={"query": query, "freshness": "noLimit"}  
    )  
    return response.json()["data"]["webPages"]["value"]  

# 示例：搜索内部技术文档  
internal_docs = secure_search("深度学习模型部署", "sk-134850dda5764a03889a2275f3fabf19")  
print(internal_docs)

五、常见问题

Q1：本地模型响应慢

• 使用量化模型（如chatglm3-6b-int4）

Q2：如何对接私有数据库？
代码示例：

import sqlite3
def search_local_db(query: str):
    conn = sqlite3.connect('内部知识库.db')
    cursor = conn.execute("SELECT * FROM docs WHERE content LIKE ?", ('%'+query+'%',))
    return [dict(row) for row in cursor]

六、总结与拓展

通过本文，你已经掌握：

• 本地大模型与博查API的混合架构原理

• 5行代码实现安全搜索的实操方法

• 企业级敏感数据处理技巧

扩展学习：

前往博查AI文档中心查看API高级参数

参考往期教程《为什么大模型需要联网搜索？》理解技术背景

立即开始你的本地智能搜索之旅！遇到问题？欢迎在评论区留言，获取一对一解答！