
本地部署 DeepSeek-R1
ollama + deepseek + open-webui 本地部署
·
教程:在 windows 下部署本地DeepSeek-R1,并实现webui界面
下载安装ollama
1、到官网下载 ollama Download Ollama on Windows ,本篇介绍 windows 下部署,下载 windows 版本
2、安装ollama 默认安装在C盘
3、迁移ollama的安装目录
- 将安装的所有文件剪切到其他盘目录内
- 修改系统环境变量,Path:新增转移的目录地址
4、验证ollama 是否安装成功 - 打开CMD命令行,输入 ollama -v 出现版本号表示安装成功
ollama -v
5、修改大模型存储位置
- 在系统环境变量中新建 变量名:OLLAMA_MODELS ,变量值:大模型下载存储的位置(自定义)
下载大模型
1、打开CMD命令行 执行:ollama run deepseek-r1:8b 后面的8b表示版本名称,自行按电脑配置选择
ollama run deepseek-r1:8b
2、大模型默认下载的位置是,C:\Users\admin.ollama\models,可以按上述第五点修改位置
3、下载完成即可使用
4、可通过 ollama run 模型名称 运行其他模型
ollama run 模型名称
下载安装 docker
1、Docker Desktop: The #1 Containerization Tool for Developers | Docker 官网下载安装
2、验证安装 docker -v 出现版本号表示安装成功
3、转移 docker 安装目录
- 默认在 C:\users\admin\AppData\Local\Docker\wsl
- 下面有两个文件
- 查看所有容器:
docker ps -a
- 删除所有容器:
docker rm 容器id
- 退出 Docker Desktop
- 关闭所有发行版:
wsl --shutdown
- 检查是否已经关闭所有发行版:
wsl --list --verbose
- 备份已有的 image 数据
- 自行创建新文件夹
wsl --export docker-desktop-data D:\docker\docker-desktop-data.tar
wsl --export docker-desktop D:\docker\docker-desktop.tar
- 注销当前的发行版
wsl --unregister docker-desktop-data
wsl --unregister docker-desktop
- 执行wsl --list --verbose 查看两个 image 是否还存在
wsl --list --verbose
- 重新导入备份的docker-desktop-data和docker-desktop
wsl --import docker-desktop-data D:\docker\data D:\docker\docker-desktop-data.tar --version 2
wsl --import docker-desktop D:\docker\docker-desktop D:\docker\docker-desktop.tar --version 2
- 重新运行 Docker Desktop 运行成功之后查看新目录中的vhdx的修改时间,如果是最新时间就说明配置成功了
安装 open webUi
1、拉取 open webui docker 镜像
docker pull ghcr.io/open-webui/open-webui:main
2、运行 open webui容器
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
3、验证open webui 是否运行: 打开浏览器访问:http://localhost:3000
4、停止和删除容器
- 停止容器:docker stop open-webui
docker stop open-webui
- 删除容器:docker rm open-webui
docker rm open-webui
更多推荐
所有评论(0)