DeepSeek + Dify + Ollama + Docker + Linux 私有化部署，构建你的专属私人 AI 助手

DeepSeek + Dify + Ollama + Docker + Linux私有化部署，构建你的专属私人 AI 助手

gblfy

8104人浏览 · 2025-02-16 14:45:36

gblfy · 2025-02-16 14:45:36 发布

在这里插入图片描述

文章目录

本篇文章安装环境：Linux Rocky Linux 9.5

使用 Docker Compose 部署：Docker 27.5.1 或更高版本、Docker Compose 1.25.1 或更高版本
安装 Dify 之前，请确保你的机器已满足最低安装要求：CPU>2 Core RAM>=4GB

名称	版本
Linux Rocky Linux	9.5
Docker	27.5.1
Dify	0.15.3
Ollama	0.5.11

一、Ollama 相关安装部署

1. Ollama安装

输入下方命令安装 ollama

cd /app
curl -fsSL https://ollama.com/install.sh | sh

在这里插入图片描述

systemctl daemon-reload
systemctl restart ollama

2. Ollama 下载DeepSeek R1模型

ollama run deepseek-r1:1.5b

在这里插入图片描述

3. Ollama 下载Embedding模型

成Embedding模型

ollama pull bge-m3

在这里插入图片描述

4. 开放防火墙策略

firewall-cmd --zone=public --add-port=11434/tcp --permanent
firewall-cmd --reload

5. ollama 服务验证

在这里插入图片描述

二、Docker 安装

2.1. 工具包安装

yum install -y yum-utils

yum-config-manager --add-repo https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo

2.2. docker下载安装

yum install -y docker-ce

systemctl enable docker --now

2.3. docker 镜像源配置

mkdir -p /etc/docker

tee /etc/docker/daemon.json <<-'EOF'
{
  "registry-mirrors": [
   "https://dockerpull.org",
    "https://docker.1panel.dev",
    "https://docker.foreverlink.love",
    "https://docker.fxxk.dedyn.io",
    "https://docker.xn--6oq72ry9d5zx.cn",
    "https://docker.zhai.cm",
    "https://docker.5z5f.com",
    "https://a.ussh.net",
    "https://docker.cloudlayer.icu",
    "https://hub.littlediary.cn",
    "https://hub.crdz.gq",
    "https://docker.unsee.tech",
    "https://docker.kejilion.pro",
    "https://registry.dockermirror.com",
    "https://hub.rat.dev",
    "https://dhub.kubesre.xyz",
    "https://docker.nastool.de",
    "https://docker.udayun.com",
    "https://docker.rainbond.cc",
    "https://hub.geekery.cn",
    "https://docker.1panelproxy.com",
    "https://atomhub.openatom.cn",
    "https://docker.m.daocloud.io",
    "https://docker.1ms.run",
    "https://docker.linkedbus.com"
  ]
}
EOF

systemctl daemon-reload
systemctl restart docker

docker --version

[root@localhost docker]# docker --version
Docker version 27.5.1, build 9f9e405
Docker 镜像加速列表

三、Dify 安装配置

3.1. Dify 下载

git clone https://github.com/langgenius/dify.git
cd dify/docker
cp .env.example .env
docker compose up -d

在这里插入图片描述

3.2. Dify 配置

cd dify/docker
cp .env.example .env

3.3. Dify安装

cd dify/docker
docker compose up -d

在这里插入图片描述
最后检查是否所有容器都正常运行：

docker compose ps

检查要特别关注以下几个关键容器的状态：

docker-api-1：API服务
docker-web-1：Web界面
docker-worker-1：后台任务处理
docker-db-1：数据库
docker-redis-1：缓存服务
docker-nginx-1：反向代理

3.4. Dify体验和配置服务

然后打开一个新的浏览器，输入http://ip/install,可以看到进入到了 Dify 中。

http://192.168.10.128/install

设置管理员账号：填写邮箱、用户名、密码后，再重新登录一下
在这里插入图片描述

3.5. Dify登录

在这里插入图片描述

3.6. Dify集成DeepSeek

在这里插入图片描述

3.7. Dify集成Embedding模型

在这里插入图片描述

在这里插入图片描述
刷新浏览器后，验证

3.8. Dify创建空白应用

然后再回到主页面当中，点击创建空白应用
在这里插入图片描述

在这里插入图片描述

3.9. Dify体验DeepSeek 模型服务

在这里插入图片描述

四、创建知识库

4.1. 创建知识库

在这里插入图片描述

4.2. 上传文件到知识库

在这里插入图片描述
点击下一步

4.3. 文件向量化化并加载到知识库

在这里插入图片描述

4.4. 查验加载进度

在这里插入图片描述

4.5. 体验 DeepSeek 本地私有AI知识库服务

在这里插入图片描述
关联知识库知识文件

输入提问问题：

申领重大疾病保险金时，应向我们提供下列文件？

在这里插入图片描述

4.6. 效果评估

在这里插入图片描述
基本符合预期

五、公网远程使用 Dify

下面我们在 Linux 安装 Cpolar 内网穿透工具,通过 Cpolar 转发本地端口映射的 http 公网地址,我们可以很容易实现远程访问,而无需自己注册域名购买云服务器.下面是安装 cpolar 步骤
cpolar 官网地址:https://www.cpolar.com/

5.1. cpolar 下载安装

在这里插入图片描述
点击右上角注册

使用一键脚本安装命令

curl https://get.cpolar.sh | sudo sh

安装完成后，执行下方命令查看 cpolar 服务状态：（如图所示即为正常启动）

5.2. 查看cpolar状态

sudo systemctl status cpolar

在这里插入图片描述
Cpolar 安装和成功启动服务后，在浏览器上输入 Rocky 主机 IP 加 9200 端口即:【http://ip:9200】访问 Cpolar 管理界面，使用 Cpolar 官网注册的账号登录,登录后即可看到 cpolar web 配置界面,接下来在 web 界面配置即可：

5.3. 开放防火墙策略

firewall-cmd --zone=public --add-port=9200/tcp --permanent
firewall-cmd --reload

5.4. 服务验证

http://192.168.10.128:9200/

在这里插入图片描述

5.5. 创建远程连接公网地址

隧道名称：可自定义，本例使用了: dify 注意不要与已有的隧道名称重复

协议：http
本地地址：80
域名类型：随机域名
地区：选择 China Top

在这里插入图片描述

创建成功后,打开左侧在线隧道列表,可以看到刚刚通过创建隧道生成了两个公网地址，接下来就可以在其他电脑（异地）上，使用任意一个地址在浏览器中访问即可。
在这里插入图片描述
如下图所示，成功实现使用公网地址异地远程访问本地部署的 Dify 应用开发平台！

在这里插入图片描述

为了方便演示，我们在上边的操作过程中使用了 cpolar 生成的 HTTP 公网地址隧道，其公网地址是随机生成的。

这种随机地址的优势在于建立速度快，可以立即使用。然而，它的缺点是网址是随机生成，这个地址在 24 小时内会发生随机变化，更适合于临时使用。

5.6. 固定域名访问Dify

如果有长期远程访问本地 Dify 开发应用平台或者其他本地部署的服务的需求，但又不想每天重新配置公网地址，还想地址好看又好记，那我推荐大家选择使用固定的二级子域名方式来远程访问。
5. 固定 Dify 公网地址
由于以上使用 cpolar 所创建的隧道使用的是随机公网地址，24 小时内会随机变化，不利于长期远程访问。因此我们可以为其配置二级子域名，该地址为固定地址，不会随机变化.

注意需要将 cpolar 套餐升级至基础套餐或以上，且每个套餐对应的带宽不一样。【cpolar.cn 已备案】

在这里插入图片描述
保留成功后复制保留的二级子域名地址：

登录 cpolar web UI 管理界面，点击左侧仪表盘的隧道管理——隧道列表，找到所要配置的隧道，点击右侧的编辑。

修改隧道信息，将保留成功的二级子域名配置到隧道中

域名类型：选择二级子域名
Sub Domain：填写保留成功的二级子域名
地区: China VIP
点击更新

更新完成后，打开在线隧道列表，此时可以看到随机的公网地址已经发生变化，地址名称也变成了保留和固定的二级子域名名称。

在这里插入图片描述
最后，我们使用固定的公网地址访问 Dify 界面可以看到访问成功，一个永久不会变化的远程访问方式即设置好了。

接下来就可以随时随地进行异地公网来使用 Dify 开发应用平台了，把固定的公网地址分享给身边的人，方便团队协作，同时也大大提高了工作效率！自己用的话，无需云服务器，还可以实现异地其他设备登录！以上就是如何在本地安装 Dify 并搭建 Ollama 的全部过程。
觉得有用的话点个赞 👍🏻 呗。