第二章已发布:

[Dify + DeepSeek+通义千问] AI初尝之小型企业知识库的搭建(二)-CSDN博客文章浏览阅读545次,点赞8次,收藏17次。本文详细介绍了基于Dify平台构建小型企业私有知识问答库的实践方案。针对测试设备故障处理需求,作者采用Docker部署Dify平台,整合通义千问视觉大模型(图像分析)和DeepSeek-Chat(文本处理)双模型能力,通过工作流机制实现图像识别与知识库检索的协同处理。文章重点演示了从创建空白应用、配置视觉解析模块、构建知识库到模型联动的完整开发流程,最终形成能自动分析设备故障图像并给出解决方案的智能系统。该方案采用私有化部署确保数据安全,有效解决了工程师不在线时的重复咨询问题,为技术开发者提供了大模型落地的 https://blog.csdn.net/wxf5522/article/details/149173501?spm=1011.2415.3001.5331

一、写在前面

        时至2025年,工作十年之际,回望来时路,感叹时光变迁,技术更迭变换似沧海桑田。世人惊叹于阿尔法狗对传统围棋摧枯拉朽般的冲击,越来越多的棋手开始学习AI的棋风。然而这只是世界2副本的开端.....

        我从初入编程学习VB、C、Java、C#、Python等,到如今无论是因为爱好还是因为环境,也应该接触一点AI技术傍身了(这饭越来越难吃了,大哥!)。

       本文为利用Dify平台搭建的,基于Deepseek-chat大模型和通义千问视觉大模型构建的小型企业私有知识问答库,该项目还需要逐步添加功能和调优,目前仅为一阶段。

       本文所用例子为个人学习的小结,如有不足之处请各位多多海涵,欢迎小伙伴一起学习进步,如果想法可在评论区指出,我会尽快回复您,不胜感激!

二、本文内容

2.1 需求说明

        公司某大型测试设备已在全球不同合作商处上线使用。使用过程中,测试设备的显示屏会实时反馈测试结果,当测试FAIL时,客服会进行简单处理,但当问题持续解决不了时,客服需将测试问题上报工程师,寻求专业帮助。但是,工程师不一定24小时在线,并且可能同一时间在各地发生同样的问题,或客服会重复询问同样的问题,于是就衍生出构建知识问答库的想法。

        由于该测试涉及资料均需严格保密,所以需要逐步构建私有化的知识问答库。

2.2 技术选型

2.2.1 Dify大模型应用平台

        是一个专注于简化大型语言模型(LLM)应用开发与部署的开源平台。

        目前在国外某知名网站已拥有105K Star,个人使用感觉确实非常的简单便捷。按照官方提供的操作文档,也能很丝滑地构建各种简单的问答器。

        Dify官方文档:产品简介 - Dify Docs

      

2.2.2 DeepSeek-Chat大模型

        不用多说,支持DS老师!

        官方网站: DeepSeek | 深度求索

        国产之光,优秀的大模型

        暂时的缺点:还不支持多模态(如图像识别),暂不支持看图识图或上传图片处理。

2.2.3 通义千问 qvq-max-latest 视觉大模型

        通义千问 Qwen-Max-Latest 是一款在中文理解、多模态能力、企业级应用上表现顶尖的大模型,特别适合需要图文分析、钉钉/阿里生态整合的场景。

        官方网站:通义大模型_AI大模型_一站式大模型推理和部署服务-阿里云

2.2.4 结合:1+1+1>3

        因为我们既需要图片识别功能,又需要顶级的逻辑分析能力,结合下图来看,利用Dify平台,将两个大模型的功能融合是最适合的方式。

三、开发环境

1. Docker:4.41.2

2. Dify

3. DeepSeek-Chat

4. qvq-max-latest

四、环境准备

4.1 安装Docker

4.1.1 打开官网:Docker Desktop: The #1 Containerization Tool for Developers | Docker

        选择对应的系统进行下载,我下载的AMD64版本。

4.1.2 下载好了直接安装即可

         Docker默认会安装到C盘(为啥不让选啊!!),并且资源文件也会下载到C盘,对于一些C盘空间已经岌岌可危的电脑,实在是一场挑战!

        所以我找到了装到其他盘的办法,参照网址:Windows系统下装Docker至D盘/其他盘最新方法(最准确,直接装)_docker_脚本之家

a.首先打开命令提示符CMD,进入到安装目录下

b.其次输入如下命令,将Docker安装到指定文件夹下

start /w “” “Docker Desktop Installer.exe” install -accept-license --installation-dir=“D:\Program Files\Docker” --wsl-default-data-root=“D:\Program Files\Docker\data” --windows-containers-default-data-root=“D:\Program Files\Docker

        其中加粗的字段替换为为指定的安装目录路径

c. 安装完成后,检查Resources项中Disk image location是否列出了指定目录位置。

4.2 下载Dify资源

4.2.1 打开 https://github.com/langgenius/dify

        这里需要一点小小的看世界的技巧。

4.2.2 解压后得到如下目录

4.2.3 启动本地Dify平台。

a. 首先复制Dify/docker所在路径

b. 打开docker/Terminal

c. 切换到对应目录下,cd *********

d.执行命令docker compose up -d

        等待下载完所有组件

        期间如果下载卡住,可以取消,重新输入命令继续下载。

e.组件安装完毕后,Dify会被列在列表栏中。点击右侧Start按钮,启动Dify。

4.3 Dify的启动与配置

a. 在浏览器中输入 127.0.0.1 , 会自动进入本地Dify的界面。

        首次进入时,需要设置一个管理员的信息。

b. 完成后,将进入一个空白工作台的Dify页面。

        *忽略那些已创建的

c. 到这步,首先可以四处点点,看一下大概有些什么内容。

        了解一下探索、工作室、知识库、工具里分别有些什么。结合官方文档,简单了解一下。

         Dify官方文档:产品简介 - Dify Docs

4.4 DeepSeek API-Keys的创建

a. 打开DS API-Keys连接

b.创建新的Key,注意Key仅在被创建这一刻明文,请记住并妥善保管。

c. 给DS老师充值!

        好东西总归不是免费的!否则调用的时候会提示没钱,不让玩儿!

        当然,只是玩玩的话,用别的大模型也是一样的,毕竟先试试玩玩的。

4.5 Dify中大模型API-Keys的配置

a. 点击右上角头像-设置

b.左侧选择模型供应商,找到深度求索,并点击安装。

c. 安装之后点击设置,填入对应的API-Key并保存,验证完成后,右上角就会亮一个小绿灯

    未被配置的模型会被放置在待配置列表里。

    加载模型会需要一些时间,多点两次安装也没事。

4.6 通义千问 API-Keys的创建

a. 打开通义千问API-Keys创建页面,并创建API-Key

b.通义千问目前我用的大模型还没有收费,先蹭蹭再说!

c. 在Dify中配置通义千问大模型,参照4.5的步骤

到此为止,目前基本的配置已经完成了,以上大模型也可以找免费的先替代使用,只要符合需求,作为练手没什么要求。

五、搭建第一个基于Dify平台的聊天助手

5.1 创建空白应用

5.2 创建第一个聊天助手

        该步骤为Dify基础功能学习,和主需求无关。已经有基础的同学可以跳到第二章(前提是等我写出第二章)

a. 点开新手适用,选择聊天助手

b. 给应用取一个名字

c. 右侧图标可以选择一个表情

d. 点击创建

5.3 调用语言模型

        在右上角大模型中将此前配置好的大模型,DeepSeek LLM在Dify目前接入的版本有三个模型可供选择:

        deepseek-chat

        deepseek-reasoner

        deepseek-coder

a. 我们选择deepseek-chat通用对话模型。

b. 左侧的提示词,可以编辑对AI的约束,如限制AI只能用指定语言回复,或者指定AI的名字等。

c. 指定AI角色,并且用户可以根据提示输入信息插入到提示词中。例如AI会根据用户输入的职位提出一个相应的面试问题。

     如果要进一步缩小提问范围,可以通过添加更多的提示词。

     如果需要更专业的提问,可以通过添加知识库来限制引用知识的范围。

六、发布第一个聊天应用

a. 当调试完成后,可以点击右上角发布,发布更新

b. 发布成功后,点击运行,会出现正式版的界面。

c. 开始和他聊天吧

d. 此时可以将网页地址的ip改为pc的ip,小伙伴们就可以访问你的chat工具了。

如:192.168.1.20/chat/****

六、小结

        到此,第一个基于Dify平台,加载大模型的chat聊天工具就搭建好了。这一章主要是先熟悉和磨合工具。下一章将会引入工作流的概念,将多个大模型结合起来:

a. 利用Dify平台目前的大模型资源,通过通义千问大模型图像分析并得出错误。

b. 通过知识检索在知识库中寻找可能的答案

c. 限制Deepseek仅依靠知识库中的内容,并分析出可能得解决方式并输出结果。

d. 向用户输出结果

七、感谢

        感谢各位大佬的莅临,学习之路漫漫,吾将上下而求索。有任何想法请在评论区留言哦!

        再次感谢!

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐