安装 Ollama

Ollama 官网:https://ollama.com/

  • 根据电脑系统 选择合适的下载 Ollama 的方式

本地安装 deepseek-r1 模型

  • 根据步骤安装完成后,点击左上角 Models 查看对应的模型

  • 我们选择 deepseek-r1 模型,点击

  • deepseek-r1 分别有 1.5b 7b 8b 14b 32b 70b 671b ,我们可以简单理解成模型参数量的规模,数字单位以 B(Billion,十亿)为基础,参数量越大,模型理论上的表达能力越强,但训练/推理所需显存、算力和耗电越高,因此需根据电脑性能选择合适的参数量。具体的性能参考请看下图:

  • 本次部署以7b 为示例,其余同理

  • 复制右侧指令,打开终端运行该指令,等待模型安装至本地后即可在终端发送消息

配置图文交互界面

由于终端交流不便利,因此需要安装一个图文交互界面,比较常用的有:

  1. Chatbox
  2. Cherry Studio

Chatbox 安装与设置

安装

直接搜索 Chatbox 点击安装即可

设置

在 Chatbox 中连接本地 Ollama 服务

  • 在设置中 选择模型提供方为 Ollama API以及切换本地模型

在 Chatbox 中连接远程 Ollama 服务

查看教程:https://chatboxai.app/zh/help-center/connect-chatbox-remote-ollama-service-guide

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐