Ollama 绝配！什么 DeepSeek/ChatGPT 等大模型，随意切换～

当前，AI 大模型的发展速度令人瞩目，许多基础模型对硬件的要求并不高，完全可以在本地环境中搭建和运行。通过 Ollama 可以实现本地运行大模型，但操作都是命令行，没有界面，今天我们就来看一个开源项目 Open WebUI。Open WebUI 是一个开源的、功能丰富且用户友好的自托管 AI 平台，专为完全离线运行而设计。

程序员笑武

648人浏览 · 2025-02-15 15:15:29

程序员笑武 · 2025-02-15 15:15:29 发布

当前，AI 大模型的发展速度令人瞩目，许多基础模型对硬件的要求并不高，完全可以在本地环境中搭建和运行。

通过 Ollama 可以实现本地运行大模型，但操作都是命令行，没有界面，今天我们就来看一个开源项目 Open WebUI。

Open WebUI 是一个开源的、功能丰富且用户友好的自托管 AI 平台，专为完全离线运行而设计。

看这界面不能说很像 chatGPT，简直一模一样～～～

Github 上的 star 数 70K+：

历史趋势：

Open WebUI 支持多种语言模型运行器（如 Ollama 和 OpenAI 兼容 API），并内置了用于检索增强生成（RAG）的推理引擎，使其成为强大的 AI 部署解决方案。

Open WebUI 可自定义 OpenAI API URL，连接 LMStudio、GroqCloud、Mistral、OpenRouter 等。

Open WebUI 管理员可创建详细的用户角色和权限，确保安全的用户环境，同时提供定制化的用户体验。

Open WebUI 支持桌面、笔记本电脑和移动设备，并提供移动设备上的渐进式 Web 应用（PWA），支持离线访问。

丰富的交互功能：

支持 Markdown 和 LaTeX，提升交互体验。
集成语音和视频通话功能，提供更动态的聊天环境。
支持本地 RAG 集成，用户可以直接在聊天中加载文档或通过 # 命令访问文档库。
支持网页搜索和浏览，将搜索结果或网页内容直接注入聊天中。
集成图像生成功能，支持 AUTOMATIC1111 API、ComfyUI 和 OpenAI 的 DALL-E。
支持多模型对话，同时与多种模型交互，发挥各自优势。

开发与扩展：

提供模型构建器，通过 Web UI 创建 Ollama 模型，自定义角色/代理，导入模型。
原生支持 Python 函数调用工具，用户可以添加纯 Python 函数，与 LLM 无缝集成。
支持角色基访问控制（RBAC），确保只有授权用户才能访问 Ollama 和模型创建/拉取权限。
提供多语言支持，支持国际化（i18n），并积极寻求贡献者扩展支持的语言。
支持 Pipelines 插件框架，用户可以将自定义逻辑和 Python 库集成到 Open WebUI 中。

开源地址：https://github.com/open-webui/open-webui

官方文档：https://docs.openwebui.com/

安装

Open WebUI 提供多种安装方式，包括通过 Python pip 安装、Docker 安装、Docker Compose、Kustomize 和 Helm 等。

使用 Docker 快速开始

如果 Ollama 已安装在你的电脑上，使用以下命令：

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

使用 Nvidia GPU 支持运行 Open WebUI：

docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda

Open WebUI 与 Ollama 捆绑安装

此安装方法使用一个单一的容器镜像，将 Open WebUI 与 Ollama 捆绑在一起，可以通过一个命令轻松设置。根据你的硬件配置选择合适的命令：

启用 GPU 支持：

docker run -d -p 3000:8080 --gpus=all -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama

仅使用 CPU：

docker run -d -p 3000:8080 -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama

这两个命令都能帮助你简化安装过程，让 Open WebUI 和 Ollama 无缝运行。

安装完成后，你可以通过访问 http://localhost:3000 使用 Open WebUI。

通过 pip 安装

Open WebUI 可以通过 Python 的包安装程序 pip 进行安装，在开始安装之前，请确保您使用的是 Python 3.11，以避免可能出现的兼容性问题。

推荐使用 uv 包管理工具，因为它简化了环境管理，减少了潜在的冲突。

打开您的终端，运行以下命令以安装 Open WebUI：

pip install open-webui

安装完成后，您可以通过以下命令启动 Open WebUI：

open-webui serve

启动后，Open WebUI 服务器将运行在 http://localhost:8080，您可以通过浏览器访问该地址来使用 Open WebUI。

很多开源的产品已经非常强大了，但参数多的大模型还有很多硬件的要求，而在官方使用 DeepSeek，卡顿问题到现在还没完全解决：

现在很多第三方平台已经上线了 DeepSeek 的 R1 系列模型，比如近期通义灵码模型选择功能，目前已经支持 Qwen2.5、DeepSeek-V3 和 R1系列模型：

我们也可以在 VSCode 和 JetBrains 里搜索并下载最新通义灵码插件，在输入框里选择模型，即可轻松切换模型。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述