一、Dify介绍

在生成式AI技术快速迭代的背景下,如何高效构建并管理大语言模型(LLM)应用成为开发者关注的核心问题。Dify作为一款开源LLM应用开发平台,凭借其融合后端即服务(BaaS)LLMOps的设计理念,为开发者提供从原型设计到生产部署的全流程支持。今天我来系统讲解Dify的本地化部署方法、模型集成及远程访问方案,助力开发者打造私有化AI开发环境。

Dify官网 https://dify.ai/zh
在这里插入图片描述

二、Dify的核心功能与优势

  • 全栈开发支持
    Dify内置Prompt编排RAG引擎Agent框架等工具链,支持多模态模型接入(如GPT-4、Claude系列、Llama等),并可通过API与现有业务系统无缝集成。
  • 开源与可扩展性
    支持自部署至本地服务器,开发者可基于Docker快速搭建环境,并通过插件机制扩展功能(如自定义工具链、知识库管理)。
  • 企业级监管与协作
    提供多租户管理、用量监控及成本分析功能,适用于金融、医疗等需高合规性场景。

三、基于Docker的Dify本地化部署全流程

1. 下载安装Dify
  • 下载dify的官方安装包,dify是开源工具,因此通过github下载:dify - github
# 克隆官方仓库
git clone https://github.com/langgenius/dify.git
cd dify/docker
  • 配置环境变量
# 配置环境变量
cp .env.example .env
  • 修改docker目录下的 .env文件,使其能本地部署
# The backend URL of the console API,
# used to concatenate the authorization callback.
# If empty,it is the same domain.
# Example: https://api.console.dify.ai
CONSOLE API URL=http://localhost
  • 安装并启动容器
# 启动容器
docker compose up -d
  • 验证服务状态
# 验证服务状态
docker compose ps  # 确保api、worker、nginx等容器正常运行
2. Dify本地访问与初始化
  • 管理员注册

首次访问时候,会先访问到浏览器访问http://localhost/install,创建管理员邮箱、昵称、密码并完成初始化配置。

  • 管理界面登录
    完成管理员注册配置后会跳转至http://localhost/signin用刚才设置的邮箱和密码进行登录。

请添加图片描述

首次登录需配置模型供应商(如OpenAI、Ollama)及API密钥,下文以ollama为例子。


3. Ollama本地集成
  • 部署Ollama框架

    本地部署ollama框架可以参考这篇文章,这里不再赘述。

  • 在Dify中接入Ollama

    • 1.进入Dify设置界面

    请添加图片描述

    • 2.进入模型供应商并添加Ollama,进行安装

    请添加图片描述

    • 3.安装完成后,在模型列表中出现Ollama,点击添加模型

    请添加图片描述

    • 4.为了确保本地的ollama可以被其他应用访问,ollamahost需要配置为0.0.0.0。设置电脑环境变量,增加变量名OLLAMA_HOST,变量值为0.0.0.0

    • 配置情况如下:

    请添加图片描述

    • 5.添加一个8B的模型

    • 模型名称必须是ollama本地库里存在的模型名称deepseek-r1:8b

    • 基础URL配置默认为http://host.docker.internal:11434

      请添加图片描述

    • 6.点击保存,本地环境就部署好了。

4. Dify大模型运行
  • 进入工作室界面,选择创建空白应用

请添加图片描述

  • 这里方便演示,选择创建聊天助手,就可以快速创建大模型应用。当然你也可以生成其他的Agent、文本生成等应用。点击创建

请添加图片描述


  • 创建完成后,就可以在探索里使用我们发布的大模型。

请添加图片描述

  • 除此之外,Dify还支持将你的大模型以iframe或API形式嵌入到其他应用中。适合进行二次开发。

结语

Dify的本地化部署不仅为开发者提供了高度可控的AI应用开发环境,还通过开源生态与灵活扩展性降低了技术门槛。随着LLM技术的演进,Dify将持续赋能企业及个人开发者,推动生成式AI应用的普惠化与产业化。

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐