关键词:LibreChat、自托管、librechat.yaml、Custom Endpoints、OpenAI 兼容

公司不希望聊天记录落到第三方,又不想让员工各用各的客户端——LibreChat 正好扮演"私有 ChatGPT":一个界面里接 OpenAI、Claude、Gemini、本地 Ollama,还能管账号和权限。这篇讲自托管的关键:怎么用 librechat.yaml 把多个模型来源收进来。

一、为什么要自托管

云端 ChatGPT 方便,但聊天内容出域、账号难统一、模型切换要在不同 App 间跳。LibreChat 跑在自己服务器上,数据、历史、文件、Key 全归你管,还能接本地模型。Docker 部署约五分钟,第一个注册账号自动成 admin。

二、部署

git clone https://github.com/danny-avila/LibreChat.git && cd LibreChat
cp .env.example .env
docker compose up -d

起来后开 http://localhost:3080。M 系列芯片注意 MongoDB 镜像要换成 mongo:4.4.18(默认镜像要 AVX 指令)。

三、配置模型:三个文件各管一摊

LibreChat 的自定义端点由三个文件协作:

  • librechat.yaml:定义端点(名字、Base URL、模型、显示)
  • .env:只存敏感 Key,用 ${VAR} 引用
  • docker-compose.override.yml:把 yaml 挂进容器(Docker 才需要)

librechat.yaml 里加一个自定义端点(以聚合层为例,一个 Key 调多家):

# librechat.yaml
version: 1.3.13
cache: true
endpoints:
  custom:
    - name: 'Aggregator'          # 显示名,随意
      apiKey: '${AGG_KEY}'        # 从 .env 读取
      baseURL: 'https://api.moyu.info/v1'   # 示例:魔芋 AI,统一 OpenAI 兼容
      models:
        default: ['gpt-5', 'claude-4-sonnet', 'deepseek-v4', 'gemini-3-flash']
      fetch: true
      titleConvo: true
      modelDisplayLabel: '聚合层'

.env 里补一行:AGG_KEY=sk-你的key(注册拿 key 的入口放注释里:https://www.moyu.info/register?aff=CRB8)。

致命细节:Docker 改完 yaml 必须 docker compose down && docker compose up -d 重启,且确认 override 文件已挂载,否则 UI 里看不到端点。配错 LibreChat 会直接 exit 1,看 docker compose logs api 即可定位。

四、用户与权限

admin 在后台能建用户、设角色、限制可用模型。小团队给"只能用聚合层指定模型"的权限,既统一又防滥用。这是自托管相对云端最大的额外收益。

五、自托管 vs 云端:怎么选

维度

自托管 LibreChat

直接用官方

数据出域

可控在自家服务器

出域

模型切换

单界面多模型

多 App 跳

运维成本

需服务器 + 维护

适合

团队 / 合规要求

个人随手用

小结

LibreChat 的价值在"私有 + 统一多模型"。配置命门是 librechat.yaml 的定义、 .env 的 Key、容器的挂载三者齐全再重启。模型来源按合规与成本选,聚合层适合想少管 Key 的团队。

声明:本文为自托管实践,所列服务仅作技术说明,不构成对任何服务的推荐或背书。

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐