LLM应用开发平台Dify快速安装

本文主要介绍如何在本地环境快速部署Dify。

逆流的小鱼168

4018人浏览 · 2024-04-17 18:51:04

逆流的小鱼168 · 2024-04-17 18:51:04 发布

Dify是一款开源的大语言模型(LLM)应用开发平台。它融合了后端即服务(Backend as Service)和 LLMOps的理念，使开发者可以快速搭建生产级的生成式AI应用。即使你是非技术人员，也能参与到AI应用的定义和数据运营过程中。

前提：

准备1台Linux服务器，我这里是以CentOS 7.9举例。

快速启动

登录Linux服务器，在合适的目录下执行git clone https://github.com/langgenius/dify.git将Dify源代码克隆到本地(本文是在/mnt目录，不再赘述)。
源码克隆完成后，进入dify目录，执行git checkout -b 0.6.3 0.6.3切换到最新的稳定版分支，本文写作时最新稳定版本为0.6.3。
进入/mnt/dify/docker目录，执行docker compose up -d即可启动Dify。需要说明的是，这样启动使用的全部是默认配置，不推荐。

自定义配置启动

修改默认docker-compose.yaml

我们更推荐在自定义修改相关配置后启动，首先在dify/docker目录执行cp docker-compose.yaml docker-compose.yaml.bak备份docker-compose配置文件。
在dify/docker目录执行vi docker-compose.yaml编辑默认配置，我本地因为已经单独安装Redis、PostgreSQL、Nginx等组件，所以将redis、db、nginx相关的配置删除或注释掉。记得depends_on也要删除。
修改yaml文件中关于PostgreSQL和Redis配置，需要与本地数据库参数配置保持一致，示例如下：

DB_USERNAME: postgres
DB_PASSWORD: 123456
DB_HOST: 127.0.0.1
DB_PORT: 5432
DB_DATABASE: dify

REDIS_HOST: 127.0.0.1
REDIS_PORT: 6379
REDIS_USERNAME: ''
REDIS_PASSWORD: 123456
REDIS_USE_SSL: 'false'
REDIS_DB: 2
CELERY_BROKER_URL: redis://:123456@127.0.0.1:6379/2

修改yaml文件中邮件配置，方便发送邮件通知。我这里选择smtp类型(也可以使用resend类型)，大家可以将自己的邮箱信息配置上去。

MAIL_TYPE: 'smtp'
MAIL_DEFAULT_SEND_FROM: '逆流的小鱼'
SMTP_SERVER: 'smtp.feishu.cn'
SMTP_PORT: 465
SMTP_USERNAME: 'dify@feishu.cn'
SMTP_PASSWORD: 'abc123'
SMTP_USE_TLS: 'true'

将api和web容器的运行端口映射到本机，后续在本地Nginx配置中需要使用。

services:
  api:
    ### 其它配置省略了###
    ports:
      - "5001:5001"
  web:
    ### 其它配置省略了###
    ports:
      - "3010:3000"

在任意目录执行openssl rand -base64 42即可生成一个强秘钥，以此修改默认的SECRET_KEY配置值。

SECRET_KEY: sk-Szb3HzZ2EZ3AuUkBYyCQDBqJb6/SbFF4iIUgeedcQ4XN45c+ZfJ1PB92

PostgreSQL安装uuid-ossp扩展

执行yum -y install uuid-devel libuuid-devel安装uuid-ossp扩展依赖包，已安装请忽略。
连接已有PostgreSQL，执行 select version();查看当前PostgreSQL的版本信息。
然后登录PostgreSQL官网下载对应版本的PostgreSQL数据库源码，然后上传到服务器；或者直接执行wget https://ftp.postgresql.org/pub/source/v15.6/postgresql-15.6.tar.gz下载。
执行tar -xzvf postgresql-15.6.tar.gz解压PostgreSQL源代码包。
进入解压后的源代码根目录(本文以：/tmp/postgresql-15.6 举例)，执行./configure --prefix=/usr/pgsql-15 --with-uuid=ossp。注意：prefix需要是现有PostgreSQL的安装目录。
然后继续切换到/tmp/postgresql-15.6/contrib/uuid-ossp目录，执行make & make install。
连接本地PostgreSQL的dify数据库，然后执行SQL`CREATE EXTENSION IF NOT EXISTS “uuid-ossp”;'安装扩展。

Nginx配置

因为我们使用的本地Nginx，所以还需要对本地Nginx进行相关配置。这里我就不再啰嗦，直接给出一份完整的server示例：

    server {
        listen       18005;
        server_name  localhost;

        proxy_set_header Host $host;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
        proxy_http_version 1.1;
        proxy_set_header Connection "";
        proxy_buffering off;
        proxy_read_timeout 3600s;
        proxy_send_timeout 3600s;

        # 请注意：下面的端口需要与容器docker-api-1和docker-web-1映射到本机的端口保持一致
        location /console/api {
            proxy_pass http://127.0.0.1:5001;
        }

        location /api {
            proxy_pass http://127.0.0.1:5001;
        }

        location /v1 {
            proxy_pass http://127.0.0.1:5001;
        }

        location /files {
            proxy_pass http://127.0.0.1:5001;
        }

        location / {
            proxy_pass http://127.0.0.1:3010;
        }
    }

启动

进入/mnt/dify/docker目录，执行docker compose up -d即可启动Dify。
访问Dify首页，配置管理员账号和密码。至此安装完成，后续就可以参照官方文档进行使用了。

这里是小鱼的公众号，如果大家觉得本文对您的学习和工作有帮助，可以扫码关注下，后续我将带给大家更多关于大模型Agent应用相关的分享，感谢！