
基于MaaS DeepSeek API和Dify快速构建一个网站智能客服
ModelArts Studio(MaaS)作为华为云旗下的大模型即服务平台,是一个面向客户的适配昇腾芯片的大模型服务化平台,提供简单易用的模型开发工具链,支持大模型定制开发,让模型应用与业务系统无缝接,致力于降低企业AI落地的成本与难度。在这一环节,将把已经构建好的智能客服机器人嵌入到网站中,依次点击“发布”>“嵌入网站”。利用先进的大语言模型构建AI智能体并用于智能客服系统,能够提供更加自然、
客服系统是企业与消费者沟通的重要桥梁,然而传统的人工客服存在着工资/培训成本高昂、数据收集和分析困难、难以全天候提供服务等痛点。
利用先进的大语言模型构建AI智能体并用于智能客服系统,能够提供更加自然、流畅的对话体验,极大地提升用户的满意度和效率,实现24/7的无间断服务,并显著降低企业在客服场景下的投入成本。
本篇教程将展示如何利用MaaS(大模型即服务平台)的200w免费token额度的满血版DeepSeek-R1 API接入Dify(开源Agent平台)来实现快速的构建AI对话机器人并嵌入在网页页面中。
操作指导
登录ModelArts Studio(MaaS)并领取免费体验额度
-
- ModelArts Studio(MaaS)平台介绍
ModelArts Studio(MaaS)作为华为云旗下的大模型即服务平台,是一个面向客户的适配昇腾芯片的大模型服务化平台,提供简单易用的模型开发工具链,支持大模型定制开发,让模型应用与业务系统无缝接,致力于降低企业AI落地的成本与难度。
使用MaaS,会有以下三点优势:
无需自建服务,即享开箱即用的高性能模型推理API;
低门槛且易用的端到端模型开发工具链,为您的业务增速提效;
头部开源大语言模型全覆盖,完全统一的调用方式。
1.2 登录MaaS领取单接口200w免费Token
MaaS提供了一系列可以Severless方式免费调用的模型API,每个用户每个模型有200万Token的免费额度。
https://console.huaweicloud.com/modelarts/?locale=zh-cn®ion=cn-southwest-2#/model-studio/homepage进入上方链接,可进入贵阳一区域的MaaS控制台,然后点击控制台左侧“模型部署”,找到想要使用的DeepSeek版本后点击“领取”,领取成功后就可以开始体验使用了。
搭建网站智能客服
2.1准备工作
2.1.1Dify平台搭建
Dify简介:
Dify 是一个能力丰富的开源AI应用开发平台,为大型语言模型(LLM)应用的开发而设计。它巧妙地结合了后端即服务(Backend as Service)和LLMOps的理念,提供了一套易用的界面和 API,加速了开发者构建可扩展的生成式 AI应用的过程。
基于Flexus云服务器X实例快速部署Dify平台:该解决方案基于华为云Flexus X实例帮助开发者快速私有化部署开箱即用的Dify LLM应用开发平台,具体操作流程请访问下方博客链接。https://bbs.huaweicloud.com/blogs/437138
登录Dify
部署完成后,首次登录需注册管理员账号,依次填写邮箱、账号、密码后保存设置后即可登录使用。
至此,你已经完成了Dify平台的搭建,下一步将展示如何将MaaS平台的模型服务接入Dify使用。
2.1.2MaaS模型API接入Dify
1)创建API Key:
-访问贵阳一区域的MaaS控制台:
https://console.huaweicloud.com/modelarts/?locale=zh-cn®ion=cn-southwest-2#/model-studio/authmanage
-在MaaS左侧导航栏中,选择“鉴权管理”。
-在“鉴权管理”页面,单击“创建API Key”,填写描述信息后,单击“确认”会返回“您的密钥”,请复制保存密钥,单击“关闭”后将无法再次查看密钥。(注:最多支持创建5个密钥,密钥只会在新建后显示一次,请妥善保存。当密钥丢失将无法找回,请新建API Key获取新的访问密钥。
2)选择常驻模型API
点击MaaS控制台左侧“模型部署”,找到已领取额度的模型服务,然后点击 “调用”。
在右侧弹出界面中,可以查看到调用该服务需要的基础API地址和模型名称信息。
3)配置Dify模型供应商
点击Dify界面右上角用户头像,选择“设置”,选择“模型供应商”页签。
找到“ OpenAI-API-compatible”供应商,点击添加模型。
在弹窗中,填入MaaS对应的模型名称、API Key、API Endpoint URL等信息后保存配置。
模型名称:MaaS服务调用界面显示的模型名称
API Key: 之前步骤中创建的贵阳一区域的API Key
API Endpoint URL: 之前步骤中MaaS服务的基础API地址,需要去掉地址尾部的“/chat/completions”后填入
Function calling: 当前MaaS预置服务中仅Qwen2_5-7B-Instruct-1128、Qwen2_5-72B-Instruct-1128、Qwen2_5-72B-32K-1128可以配置Function calling为”Tool Call”,其余服务暂不支持
2.2 Dify中创建客服机器人
2.2.1 知识库创建
如果想让智能客服能够基于企业内部的知识文档进行问答,可以在Dify中创建一个知识库。Dify能够协助进行数据的分段和清理工作。Dify 提供两种索引方式:高质量和经济。高质量模式会使用Embedding和Rerank模型以在用户查询时提供更高的准确度。本案例将使用经济进行演示。
操作步骤如下:
选择“知识库页签”,点击“创建知识库”
在“选择数据源”页面上传的知识文档(可以同时上传多个文本文件),选择清洗方式后,点击“保存并处理”。
2.2.2 创建与调试客服机器人
在“工作室”页签下创建一个空白应用,应用类型选择“Agent”,输入名称和描述进入AI的编排页面:
AI人设设置:左上部“提示词”处输入Prompt ,可以设置该AI与用户交谈时的语气和风格。
智能客服提示词示例:你是一个友好的智能客服助手,负责解答用户提出的关于产品的问题、处理订单、提供技术支持。当用户提出的问题你没有找到合适答案的时候,要回答不知道。
让AI基于内部知识进行回答:在“上下文”处添加上一步中创建的知识库。
开场白配置:点击 右下角功能的“管理”打开功能开关。自定义用户进入界面后,AI的开场问候语。
下一步问题建议配置:在“添加功能”处开启此功能。可基于业务场景设置AI对于用户问题的指引。
完成以上配置后,点击右上角“发布”菜单中“更新”保存设置。你可以在页面右侧窗口输入prompt进行效果调试。
2.2.3 客服机器人嵌入网页前端页面
在这一环节,将把已经构建好的智能客服机器人嵌入到网站中,依次点击“发布”>“嵌入网站”。Dify支持全屏界面式、悬浮窗式、浏览器插件式三种方式的嵌入。我们以第二种为例,将下方的代码复制到你网站<head> 或 <body> 标签中。
粘贴好后更新网站页面,就可以与该客服机器人进行对话了。
更多推荐
所有评论(0)