本地部署deepseek【保姆级教程之Chatbox篇】
随着人工智能技术的快速发展,本地部署大模型已成为提升效率、保护数据隐私的重要方式。本文将详细介绍如何通过DeepSeek的本地部署方案,在本地构建高效的Chatbox应用,帮助用户轻松实现大语言模型的灵活运用。
·
安装 Ollama
Ollama 官网:https://ollama.com/
- 根据电脑系统 选择合适的下载 Ollama 的方式

本地安装 deepseek-r1 模型
- 根据步骤安装完成后,点击左上角
Models查看对应的模型

- 我们选择
deepseek-r1模型,点击

- deepseek-r1 分别有
1.5b7b8b14b32b70b671b,我们可以简单理解成模型参数量的规模,数字单位以 B(Billion,十亿)为基础,参数量越大,模型理论上的表达能力越强,但训练/推理所需显存、算力和耗电越高,因此需根据电脑性能选择合适的参数量。具体的性能参考请看下图:

- 本次部署以
7b为示例,其余同理

- 复制右侧指令,打开终端运行该指令,等待模型安装至本地后即可在终端发送消息


配置图文交互界面
由于终端交流不便利,因此需要安装一个图文交互界面,比较常用的有:
- Chatbox
- Cherry Studio
Chatbox 安装与设置
安装
直接搜索 Chatbox 点击安装即可
设置
在 Chatbox 中连接本地 Ollama 服务
- 在设置中 选择模型提供方为
Ollama API以及切换本地模型

在 Chatbox 中连接远程 Ollama 服务
查看教程:https://chatboxai.app/zh/help-center/connect-chatbox-remote-ollama-service-guide
更多推荐



所有评论(0)