华为云Flexus+DeepSeek征文|手把手教你部署Dify-LLM应用开发平台
Dify 是一个开源的 LLM 应用开发平台。提供从 Agent 构建到 AI workflow 编排、RAG 检索、模型管理等能力,轻松构建和运营生成式 AI 原生应用。Dify 为开发者提供了健全的应用模版和编排框架,你可以基于它们快速构建大型语言模型驱动的生成式 AI 应用,将创意变为现实,也可以随时按需无缝扩展,驱动业务增长。通过华为云Flexus部署Dify-LLM应用开发平台,部署非常
目录
本文主要介绍通过华为云Flexus部署Dify-LLM应用开发平台,下面就来看一下。
一、什么是Dify?
Dify 是一个开源的 LLM 应用开发平台。提供从 Agent 构建到 AI workflow 编排、RAG 检索、模型管理等能力,轻松构建和运营生成式 AI 原生应用。Dify 为开发者提供了健全的应用模版和编排框架,你可以基于它们快速构建大型语言模型驱动的生成式 AI 应用,将创意变为现实,也可以随时按需无缝扩展,驱动业务增长。
二、部署Dify-LLM应用开发平台
2.1 部署服务
点击链接,进入快速搭建Dify-LLM应用开发平台页面。如下图所示。
然后,向下滑动,可以看到 一键部署(云服务器单机部署),如下图所示。
点击上图中的 一键部署(云服务器单机部署),进入立即创建资源栈页面,
支持配置的内容包括:创建方式、模版来源、模型URL。可以选择默认参数,也可以根据自己的需要调整参数配置。
点击右下角的下一步按钮,进入如下页面。
如上图所示,可以针对配置参数进行配置,包括:dify 版本,系统磁盘大小,密码等。
再次点击下一步,进入资源栈设置页面,可以对 IAM权限委托、回滚设置、删除保护进行设置。
然后,点击下一步按钮,进入到配置确认页面,如下图所示。
然后,点击右下角的创建执行计划按钮, 如下图所示。
然后,输入执行计划名称以及描述,如下所示。
创建执行计划成功后,如下图所示。
接着点击部署,开始部署服务。
如上所示,正在部署服务,部署成功后如下所示。
三、体验
点击链接进入控制台,如下图所示。
点击弹性云服务器ECS,进入弹性云服务器ECS页面,如下图所示。
然后,点击远程登录,如下图所示。
2.1 配置端口
直接进入服务器中需要先配置端口22,才可以进入,如下图所示。
点击立即登录后,如下图所示。
2.2 远程访问 Dify
在浏览器中输入http://部署资源的IP,进入设置管理员账户页面,如下图所示。
如上所示,需要填入邮箱、用户名和密码,然后点击设置,进入登录页面,如下所示。
输入设置的邮箱和密码,进入 Dify 平台界面,如下图所示。
然后,点击创建空白应用,进入创建应用界面,如下所示。
如上所示,应用类型包括:聊天助手、Agent、文本生成应用、Chatflow、工作流。
这里便于演示,选择聊天助手,填入应用名称,描述可根据需要进行填入,然后天机创建,创建的应用如下图所示。
如上图所示,主要功能包括:编排、访问 API、日志与标注以及监测。如果没有设置模型,需要先设置模型,下面就来介绍下如何设置模型。
2.3 添加模型
点击设置,进入模型配置页面,如下图所示。
需要安装插件才能配置和连接模型,选择OpenAI-API-compatible插件,进行安装,点击安装按钮,进入如下页面。
安装完成后,点击添加模型,选择 LLM,配置模型名称、API Key,API endpoint URL等信息。如下图所示。
填写信息可参照如下所示。
填写完成后,在模型列表中可以看到已经添加的模型,这里是添加的华为云中的 DeepSeek-V3模型。如下图所示。
然后,在应用界面,选择模型,选择 DeepSeek-V3模型,点击发布即可。
另外,可以配置模型的参数,包括:温度、Top P、频率惩罚、存在惩罚、最大标记、思考模式等参数。
点击发布后如下所示,发布成功。
模型配置完成后,在对话框中输入你的问题,这里输入“你好”,大模型对话信息如下图所示。
三、总结
通过华为云Flexus部署Dify-LLM应用开发平台,部署非常方便,快捷,一键部署。省去了很多环节,实现了自动化部署,赶紧来体验一下吧。
更多推荐
所有评论(0)