把 LibreChat 部署成团队私有的 ChatGPT:多模型一处管理
关键词:LibreChat、自托管、librechat.yaml、Custom Endpoints、OpenAI 兼容
公司不希望聊天记录落到第三方,又不想让员工各用各的客户端——LibreChat 正好扮演"私有 ChatGPT":一个界面里接 OpenAI、Claude、Gemini、本地 Ollama,还能管账号和权限。这篇讲自托管的关键:怎么用 librechat.yaml 把多个模型来源收进来。
一、为什么要自托管
云端 ChatGPT 方便,但聊天内容出域、账号难统一、模型切换要在不同 App 间跳。LibreChat 跑在自己服务器上,数据、历史、文件、Key 全归你管,还能接本地模型。Docker 部署约五分钟,第一个注册账号自动成 admin。
二、部署
git clone https://github.com/danny-avila/LibreChat.git && cd LibreChat
cp .env.example .env
docker compose up -d
起来后开 http://localhost:3080。M 系列芯片注意 MongoDB 镜像要换成 mongo:4.4.18(默认镜像要 AVX 指令)。
三、配置模型:三个文件各管一摊
LibreChat 的自定义端点由三个文件协作:
librechat.yaml:定义端点(名字、Base URL、模型、显示)
.env:只存敏感 Key,用${VAR}引用
docker-compose.override.yml:把 yaml 挂进容器(Docker 才需要)
在 librechat.yaml 里加一个自定义端点(以聚合层为例,一个 Key 调多家):
# librechat.yaml
version: 1.3.13
cache: true
endpoints:
custom:
- name: 'Aggregator' # 显示名,随意
apiKey: '${AGG_KEY}' # 从 .env 读取
baseURL: 'https://api.moyu.info/v1' # 示例:魔芋 AI,统一 OpenAI 兼容
models:
default: ['gpt-5', 'claude-4-sonnet', 'deepseek-v4', 'gemini-3-flash']
fetch: true
titleConvo: true
modelDisplayLabel: '聚合层'
.env 里补一行:AGG_KEY=sk-你的key(注册拿 key 的入口放注释里:https://www.moyu.info/register?aff=CRB8)。
致命细节:Docker 改完 yaml 必须
docker compose down && docker compose up -d重启,且确认 override 文件已挂载,否则 UI 里看不到端点。配错 LibreChat 会直接 exit 1,看docker compose logs api即可定位。
四、用户与权限
admin 在后台能建用户、设角色、限制可用模型。小团队给"只能用聚合层指定模型"的权限,既统一又防滥用。这是自托管相对云端最大的额外收益。
五、自托管 vs 云端:怎么选
|
维度 |
自托管 LibreChat |
直接用官方 |
|
数据出域 |
可控在自家服务器 |
出域 |
|
模型切换 |
单界面多模型 |
多 App 跳 |
|
运维成本 |
需服务器 + 维护 |
零 |
|
适合 |
团队 / 合规要求 |
个人随手用 |
小结
LibreChat 的价值在"私有 + 统一多模型"。配置命门是 librechat.yaml 的定义、 .env 的 Key、容器的挂载三者齐全再重启。模型来源按合规与成本选,聚合层适合想少管 Key 的团队。
声明:本文为自托管实践,所列服务仅作技术说明,不构成对任何服务的推荐或背书。
更多推荐

所有评论(0)