1.下载ollama与部署模型

可以看之前的文章,本文不再过多赘述,更多的放在可视化部署上

2.下载docker并替换国内镜像源(不换下载速度会很感人)

        docker官网:Docker: Accelerated Container Application Development  点击Download Docker Desktop下载即可,下载好之后安装(一直点点点)

        安装完成后要更换一下国内镜像源,点击右上角的设置,再点击Docker Engine,会有默认的设置,更换成新的之后,点击Apply & restart 即可

{
  "builder": {
    "gc": {
      "defaultKeepStorage": "20GB",
      "enabled": true
    }
  },
  "experimental": false,
  "registry-mirrors": [
    "https://docker.hpcloud.cloud",
    "https://docker.m.daocloud.io",
    "https://docker.unsee.tech",
    "https://docker.1panel.live",
    "http://mirrors.ustc.edu.cn",
    "https://docker.chenby.cn",
    "http://mirror.azure.cn",
    "https://dockerpull.org",
    "https://dockerhub.icu",
    "https://hub.rat.dev"
  ]
}

3.下载OpenWebUI

将docker启动之后,可以使用docker -v 查看是否安装成功

openwebui官网:GitHub - open-webui/open-webui: User-friendly AI Interface (Supports Ollama, OpenAI API, ...)

这里有各种情况下的安装命令,我们本地部署的话使用第一个

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

注意:再docker没有被启动的时候执行命令会出错,请确保执行命令时你的docker是启动状态

执行成功的页面应该是这样

4.打开页面

输入Open WebUI,会加载一会之后出现下面的页面,就可以可视化聊天了

如果有多个模型,也可以点击编辑之后选择模型来切换

5.打开的页面无内容

如果进来之后一直都是白屏,没有任何东西,那就看一下是不是ollama没有启动(一般都是这原因,将ollama启动之后页面上就有内容了)

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐