教程:在 windows 下部署本地DeepSeek-R1,并实现webui界面

下载安装ollama

1、到官网下载 ollama Download Ollama on Windows ,本篇介绍 windows 下部署,下载 windows 版本
在这里插入图片描述

2、安装ollama 默认安装在C盘
3、迁移ollama的安装目录

  • 将安装的所有文件剪切到其他盘目录内
  • 修改系统环境变量,Path:新增转移的目录地址
    在这里插入图片描述
    4、验证ollama 是否安装成功
  • 打开CMD命令行,输入 ollama -v 出现版本号表示安装成功
ollama -v

在这里插入图片描述
5、修改大模型存储位置

  • 在系统环境变量中新建 变量名:OLLAMA_MODELS ,变量值:大模型下载存储的位置(自定义)
    在这里插入图片描述

下载大模型

1、打开CMD命令行 执行:ollama run deepseek-r1:8b 后面的8b表示版本名称,自行按电脑配置选择

ollama run deepseek-r1:8b

2、大模型默认下载的位置是,C:\Users\admin.ollama\models,可以按上述第五点修改位置
3、下载完成即可使用
4、可通过 ollama run 模型名称 运行其他模型

ollama run 模型名称

在这里插入图片描述

下载安装 docker

1、Docker Desktop: The #1 Containerization Tool for Developers | Docker 官网下载安装
2、验证安装 docker -v 出现版本号表示安装成功
在这里插入图片描述
3、转移 docker 安装目录

  • 默认在 C:\users\admin\AppData\Local\Docker\wsl
  • 下面有两个文件
  • 查看所有容器:
docker ps -a

在这里插入图片描述

  • 删除所有容器:
docker rm 容器id
  • 退出 Docker Desktop
  • 关闭所有发行版:
 wsl --shutdown
  • 检查是否已经关闭所有发行版:
wsl --list --verbose
  • 备份已有的 image 数据
    • 自行创建新文件夹
wsl --export docker-desktop-data D:\docker\docker-desktop-data.tar
wsl --export docker-desktop D:\docker\docker-desktop.tar
  • 注销当前的发行版
wsl --unregister docker-desktop-data
wsl --unregister docker-desktop
  • 执行wsl --list --verbose 查看两个 image 是否还存在
wsl --list --verbose
  • 重新导入备份的docker-desktop-data和docker-desktop
wsl --import docker-desktop-data D:\docker\data D:\docker\docker-desktop-data.tar --version 2
wsl --import docker-desktop D:\docker\docker-desktop D:\docker\docker-desktop.tar --version 2
  • 重新运行 Docker Desktop 运行成功之后查看新目录中的vhdx的修改时间,如果是最新时间就说明配置成功了

安装 open webUi

1、拉取 open webui docker 镜像

docker pull ghcr.io/open-webui/open-webui:main

2、运行 open webui容器

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

3、验证open webui 是否运行: 打开浏览器访问:http://localhost:3000
4、停止和删除容器

  • 停止容器:docker stop open-webui
docker stop open-webui
  • 删除容器:docker rm open-webui
docker rm open-webui
Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐