Open WebUI:14万Star的私有化AI对话平台

最近 GitHub 上有个项目涨星速度吓人,Star 数冲到了 14.1 万。它做的事情很简单:给你一个自己能控制的 AI 对话界面,背后接 Ollama 或者任何兼容 OpenAI 协议的服务,数据全在你自己手里。

用过 ChatGPT 网页版的人都知道,界面好用,但数据不在你手上。Ollama 虽然能在本地跑模型,可命令行交互终究不方便。Open WebUI 就是来补这个缺口的。

正文顶部截图

它能干什么?

简单说,Open WebUI 是一个网页应用,装完之后浏览器打开就能用。界面风格和 ChatGPT 很像,上手零成本。但因为是自己部署的,权限、数据、模型全由你说了算。

具体能力拆开看:

模型接入方面,它同时支持 Ollama 和 OpenAI 兼容 API。也就是说,本地跑的 Llama、Qwen 这些开源模型能用,Claude、GPT 这些商业 API 也能用。LMStudio、GroqCloud、OpenRouter 这些第三方服务也能接。一个界面管理所有模型。

对话功能方面,支持多模型并行对话,同一个问题丢给不同模型对比回答。支持 Markdown 和 LaTeX 渲染,写代码、写公式都没问题。还有语音和视频通话功能,接了 Whisper、Azure、Deepgram 这些语音识别服务。

RAG 方面,内置了检索增强生成引擎。可以把文档丢进去当知识库,对话时自动检索相关内容。支持 9 种向量数据库(ChromaDB、Qdrant、Milvus 等),还有 Tika、Docling、PaddleOCR 等内容提取引擎。网页搜索也支持 15 种以上提供商,搜完结果直接注入对话。

权限管理方面,支持基于角色的访问控制。管理员可以创建用户组、分配不同权限,谁能用哪些模型、谁能创建角色,都可以精细配置。还支持 LDAP、OAuth、SCIM 2.0 这些企业级认证协议。

扩展性方面,有 Pipelines 插件框架,可以用 Python 写自定义逻辑挂上去。函数调用、流量限速、使用量监控、敏感词过滤,都能通过插件实现。

README区域截图

部署难度怎么样?

两种方式,都很简单。

Docker 一行命令搞定。如果本机跑了 Ollama:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

启动后访问 localhost:3000 就能用。Ollama 在别的服务器上的话,改一下 OLLAMA_BASE_URL 就行。需要 GPU 加速的话,有专门的 :cuda 镜像。

pip 安装也可以。要求 Python 3.11,pip install open-webui 然后 open-webui serve 就跑起来了。

容器部署记得加 -v open-webui:/app/backend/data,不然数据不持久化,容器删了就没了。

谁适合用?

个人用户的话,如果你想在本地跑开源模型但嫌命令行麻烦,装一个 Open WebUI 就解决了。界面好看,功能齐全,手机浏览器打开还能当 PWA 用。

团队或企业用的话,它的权限管理和多用户支持比较完善,加上 SCIM 2.0 和 LDAP 集成,接入公司现有的账号体系不费劲。数据库也支持 SQLite、PostgreSQL,存储可以挂 S3 或 Azure Blob,扩展性够用。

做 AI 开发的话,Pipelines 插件框架给了很大的定制空间。函数调用、自定义工具、RAG 流程编排,都能在这个平台上做。相当于在 Ollama 之上搭了一层应用层。

一些实际使用的问题

功能多是优点,但也意味着配置项多。刚上手的时候可能会被各种设置项搞晕,尤其是向量数据库和 RAG 引擎的选择,不同组合效果差异不小。

另外项目更新频率很高,经常有新功能加进来。好处是一直在进步,坏处是升级的时候偶尔会遇到兼容性问题。好在社区活跃,Discord 上反馈问题响应比较快。

项目许可证不是纯 MIT,用了一个带品牌保留条款的 Open WebUI License,代码里保留了原始许可历史记录。如果你只是自己用,影响不大。如果要做商业化分发,建议仔细看一下 LICENSE 文件。

总的来说,Open WebUI 把"本地跑模型"这件事的体验拉到了一个很高的水平。14 万 Star 不是白来的,它确实解决了一大群人在 AI 本地化部署中遇到的实际问题。

的体验拉到了一个很高的水平。14 万 Star 不是白来的,它确实解决了一大群人在 AI 本地化部署中遇到的实际问题。

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐