一、为什么要本地部署?

三大总结:DeepSeek官方技术白皮书核心优势总结

隐私安全三重保障

  • 本地数据处理:企业敏感信息全程保留在内网环境
  • 端到端加密:模型交互过程采用军用级加密协议
  • 审计日志追踪:完整记录所有模型调用行为

离线可用性突破

  • 无网络应急响应:支持断网场景下的文档分析与决策支持
  • 边缘计算优化:针对低功耗设备进行特别性能调优
  • 本地缓存机制:自动保存最近30天交互记录

定制开发自由

  • 模块化架构设计:支持插件式功能扩展
  • 领域微调接口:提供金融/医疗/法律等行业适配工具包
  • 多模态扩展:可集成本地知识库与业务系统API

二、部署deepseek(使用ollama)

2.1、安装ollama

Ollama是什么?


Ollama是一个开源的框架,旨在简化在本地运行大型语言模型(LLM)的过程。

Ollama作为一个轻量级、可扩展的框架,提供了一个简单的API来创建、运行和管理模型,以及一个预构建模型库,进一步降低了使用门槛。它不仅适用于自然语言处理研究和产品开发,还被设计为适合初学者或非技术人员使用,特别是那些希望在本地与大型语言模型交互的用户

总的来说,Ollama是一个高效、功能齐全的大模型服务工具,通过简单的安装指令和一条命令即可在本地运行大模型,极大地推动了大型语言模型的发展和应用。

ollama 提供了多平台的安装程序,官网下载:

https://ollama.com/download

图片

Mac系统使用brew安装

brew install ollama

2.2、选择模型

deepseek-r1

2.2.1、安装模型

默认安装7b,命令行带入参数,可选择不同版本模型

ollama run deepseek-r1:xx

进入下载中 

2.2.2、管理模型

安装完后,查看ollama列表,已经下载的模型

ollama list

(1)R1

$ ollama list       
NAME                ID              SIZE      MODIFIED     
deepseek-r1:14b     ea35dfe18182    9.0 GB    9 hours ago     
deepseek-r1:8b      28f8fd6cdc67    4.9 GB    10 hours ago    
deepseek-r1:1.5b    a42b25d8c10a    1.1 GB    16 hours ago

(2)其他小模型 

2.2.3、删除模型
$ ollama rm deepseek-r1:xx
$ ollama rm deepseek-r1:1.5b
deleted 'deepseek-r1:1.5b'

三、可视化操作

3.1、方案一:Open WebUI

Open WebUI

直接使用docker进行安装

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

安装完成后访问 127.0.0.1:3000根据提示即可进入聊天页面

3.2、方案二:Chatbox

官网进行下载自己对应的系统版本的安装包安装即可

图片

四、编程辅助

Cline是目前最好用的AI编程工具之一,在Open Router的日排行、周排行和月排行中,Cline都是调用模型最多的工具。它支持多种模型,包括OpenAI、Ollama等,并且可以免费使用

4.1、安装Cline

  1. 打开VSCode
  2. 点击插件图标
  3. 搜索"Cline"并安装

图片

4.2、配置本地模型

选择Ollama后,会列出本地已有的模型,选择一个模型,就可以开始使用了

图片

为了更好的时候可以开启一些配置(建议全部开启)

图片

近期DeepSeek官方服务频繁中断,而通过硅基流动平台可稳定获取2000万额度免费Token!按当前定价,这些Token足以支撑开发100+小型项目,堪称程序员“生产力燃料”。

三大核心优势

● 华为云算力加持:告别官方版卡顿问题,响应速度提升300%,代码生成如丝般顺滑。

● 全场景覆盖:支持PC/手机/Pad多端同步,灵感记录、方案撰写、紧急Debug,24小时随调随用。

● 企业级稳定性:金融级服务器保障,深夜爆肝代码不再担心服务崩溃,开发进度稳如磐石。

注册方式:

现在点我专属链接:

硅基流动统一登录

邀请码:

cmEXWSH1

30s完成注册:

图片

新建硅基流动密钥:

图片

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐