一文玩转本地化部署DeepSeek！

Ollama本地化部署的模型可用于：AI编程助手：集成VS code开发编程助手，作为cursor的平替；聊天机器人：集成open WebUI/Chatbox实现可视化聊天；Python API：集成python API实现本地模型调用；anythingLLM：集成anythingLLM构建本地知识库，包括paper阅读、小说创作、法律文书等。

小马不会过河

1686人浏览 · 2025-02-05 20:00:36

小马不会过河 · 2025-02-05 20:00:36 发布

近期DeepSeek爆火，目前官网服务的不稳定性，成为尝鲜的阻碍。本文将详细介绍如何本地化部署DeepSeek，并应用于生活和工作。在大多数情况下，优先推荐官网chat或者官网API调用，效果更佳。本文的主要面向场景在于：免费、稳定、高效且隐私安全。

AI编程助手：如何通过Ollama（本地大模型引擎） + VS Code + DeepSeek (轻量化模型)，作为cursor的平替；
聊天机器人：集成open WebUI/chatbox实现可视化聊天，用于生活经验咨询、学习、写文案等，构建本地agent库，官网R1完全体的平替；
API调用：集成python API实现本地模型调用，用于NLP等算法开发工作；
本地知识库：集成anythingLLM构建本地知识库，解决部分隐私数据需要上传云端造成的合规问题，包括办公文档、小说创作、法律文书等。

一、AI编程助手

1. 安装Ollama（本地大模型引擎）

访问ollama.ai下载对应版本，安装后执行，该指令会自动拉取模型到本地并部署。支持mac/windows/linux等。

ollama run deepseek-r1:7b`  `ollama run qwen2.5-coder:1.5b

2. VS Code安装Continue插件

在扩展商店搜索"Continue"：

还有一些其他可替代的软件，比如Roo CODE、codeGPT等，大差不差。

3. 配置DeepSeek/Qwen模型

在VS Code设置中追加配置（注意provider字段需为ollama）：

 `"models": [       {         "model": "AUTODETECT",         "title": "Autodetect",         "provider": "ollama"       },       {         "title": "qwen2.5-coder:1.5b",         "model": "qwen2.5-coder:1.5b",         "provider": "ollama"       },       {         "title": "deepseek-r1:1.5b",         "model": "deepseek-r1:1.5b",         "provider": "ollama"       }     ],    "tabAutocompleteModel": {       "title": "qwen2.5-coder:1.5b",       "provider": "ollama",       "model": "qwen2.5-coder:1.5b"    }`

4. 功能实战

实测Apple M2 Pro 16G内存 + 512G SSD跑1.5b/7b基本没有问题，速度很快。闲时不占GPU，7b聊天时GPU占用达~90%。

智能补全

配置：

输入注释：

# 用pandas读取CSV，统计各城市销量TOP3

按下TAB键，AI将自动生成完整代码段，支持逐行确认插入。

代码聊天

选中问题代码，右键选择"Continue Add Highlighted Code to Context"：

解读下grpo源码:

二、本地化部署其他玩法

除了集成到vscode，也可以通过多种方式使用。

1. python API调用

from ollama import chat      stream = chat(       model='deepseek-r1:1.5b',       messages=[{'role': 'user', 'content': '为什么天空是蓝色的？'}],       stream=True,   )      for chunk in stream:     print(chunk['message']['content'], end='', flush=True)         # 输出   <think>   嗯，为什么会天蓝色呢？这个问题我以前听说过，但具体原因好像不太清楚。我觉得可能和地球表面的变化有关吧？比如风、云彩或者阳光照射等等。      首先，太阳本身发出的是白光，颜色很丰富，既有红、黄、蓝也有其他颜色。如果阳光直接照到天空上，天可能会看起来像阳光一样鲜艳，但为什么是蓝色呢？是不是因为阳光反射的原因？      另外，云层的颜色也会影响天空的 appearance。比如有飘带会把颜色拉长成一条线，使得天空看起来更有层次感。这些变化会不会改变颜色呢？或许是因为光线的不同角度照射导致了不同的颜色。      还有一个可能是大气中的气体成分和热辐射的变化。比如说，蓝光和红光可能在不同时间到达地面，导致天空呈现出不同的色调。比如蓝光可能在阳光最高峰出现，而红光则在地面较早出现。      我还记得以前看到的天色变化，比如晴朗的天有黄色，多云的时候可能变成橙色或者红色，甚至蓝色？是不是这样呢？如果有这种现象，那颜色的变换与大气中的气体成分和热辐射有关，特别是蓝光的传播。      还有宇宙中的星体，尤其是恒星，它们 emit a lot of blue light。这些光线反射到天空上，导致天看起来是蓝色。这可能就是为什么天空通常是蓝色。      不过，我有点不确定是不是所有情况下都是这样。比如阳光强烈的时候，会不会让颜色变得很鲜艳？或者是因为太阳周围有云层遮挡，导致颜色变化？另外，地球的自转和公转也会影响光线到达的时间点，从而改变颜色。      还有，不同区域的温度和光照强度可能对天空的颜色产生影响。例如，在温暖的地区，阳光可能更强烈，而颜色更鲜艳；在冷的地方，颜色会变淡一些。      总结一下，我觉得天空是蓝色主要是因为阳光反射、大气中的热辐射以及云层的影响，这些因素共同作用导致天空呈现出蓝色。我还不太确定有没有其他因素影响这个现象，比如地面的温度或者光线的方向变化。   </think>      天空呈现蓝色的主要原因与以下几个方面有关：      1. **太阳光的颜色**：太阳发出的光包括红、黄、蓝等多种颜色。如果阳光直接照到天空上，天可能会显得鲜艳，但实际的天空呈现蓝色是因为阳光反射。      2. **大气中的热辐射**：太阳产生的热量在空气中扩散，形成了热辐射，这些能量以不同颜色形式传递到空气中，导致天空呈现出蓝色。      3. **云层的影响**：云层的颜色和分布会影响天空的 appearance。飘带将颜色拉长形成线条，使天空层次感更强。此外，蓝光可能在阳光最高峰出现，而红光则较早出现。      4. **地表温度变化**：不同区域的温度和光照强度影响光线到达的时间点，从而改变颜色。温暖地区可能有更鲜艳的颜色，冷的地方颜色较淡。      综上所述，天空呈现蓝色主要由太阳光、大气中的热辐射以及云层的影响共同作用引起，这些因素共同作用使得天空呈现出蓝色。

2. 聊天机器人： 安装open WebUI或Chatbox可视化聊天

3. 构建个人知识库：安装anythingLLM

面向一些隐私场景，数据不方便上传到外网。通过向量数据库+RAG，构建个人知识库。支持本地和远程向量数据库、agent工具等。

功能挺多的，但是目前体验下来效果很差，不知道是否是打开方式不对。

以paper为例，上传个人知识库后，会自动embedding并存入向量数据库，即可开启聊天，查资料等。

结语

Ollama本地化部署的模型可用于：

AI编程助手：集成VS code开发编程助手，作为cursor的平替；
聊天机器人：集成open WebUI/Chatbox实现可视化聊天；
Python API：集成python API实现本地模型调用；
anythingLLM：集成anythingLLM构建本地知识库，包括paper阅读、小说创作、法律文书等。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述