[Dify + DeepSeek+通义千问] AI初尝之小型企业知识库的搭建(一)
本文介绍了基于Dify平台搭建小型企业私有知识问答库的实践过程。针对企业测试设备故障处理需求,作者选用Dify开源平台整合DeepSeek-Chat和通义千问视觉大模型,构建具备文本问答和图像分析能力的解决方案。文章详细记录开发环境配置(Docker+Dify+双模型)、API密钥获取、模型部署等关键步骤,并演示了创建首个聊天助手应用的全流程。该项目旨在解决工程师不在线时的重复性问题,通过私有化部
第二章已发布:
一、写在前面
时至2025年,工作十年之际,回望来时路,感叹时光变迁,技术更迭变换似沧海桑田。世人惊叹于阿尔法狗对传统围棋摧枯拉朽般的冲击,越来越多的棋手开始学习AI的棋风。然而这只是世界2副本的开端.....
我从初入编程学习VB、C、Java、C#、Python等,到如今无论是因为爱好还是因为环境,也应该接触一点AI技术傍身了(这饭越来越难吃了,大哥!)。
本文为利用Dify平台搭建的,基于Deepseek-chat大模型和通义千问视觉大模型构建的小型企业私有知识问答库,该项目还需要逐步添加功能和调优,目前仅为一阶段。
本文所用例子为个人学习的小结,如有不足之处请各位多多海涵,欢迎小伙伴一起学习进步,如果想法可在评论区指出,我会尽快回复您,不胜感激!
二、本文内容
2.1 需求说明
公司某大型测试设备已在全球不同合作商处上线使用。使用过程中,测试设备的显示屏会实时反馈测试结果,当测试FAIL时,客服会进行简单处理,但当问题持续解决不了时,客服需将测试问题上报工程师,寻求专业帮助。但是,工程师不一定24小时在线,并且可能同一时间在各地发生同样的问题,或客服会重复询问同样的问题,于是就衍生出构建知识问答库的想法。
由于该测试涉及资料均需严格保密,所以需要逐步构建私有化的知识问答库。
2.2 技术选型
2.2.1 Dify大模型应用平台
是一个专注于简化大型语言模型(LLM)应用开发与部署的开源平台。
目前在国外某知名网站已拥有105K Star,个人使用感觉确实非常的简单便捷。按照官方提供的操作文档,也能很丝滑地构建各种简单的问答器。
Dify官方文档:产品简介 - Dify Docs

2.2.2 DeepSeek-Chat大模型
不用多说,支持DS老师!
官方网站: DeepSeek | 深度求索
国产之光,优秀的大模型
暂时的缺点:还不支持多模态(如图像识别),暂不支持看图识图或上传图片处理。
2.2.3 通义千问 qvq-max-latest 视觉大模型
通义千问 Qwen-Max-Latest 是一款在中文理解、多模态能力、企业级应用上表现顶尖的大模型,特别适合需要图文分析、钉钉/阿里生态整合的场景。
官方网站:通义大模型_AI大模型_一站式大模型推理和部署服务-阿里云
2.2.4 结合:1+1+1>3
因为我们既需要图片识别功能,又需要顶级的逻辑分析能力,结合下图来看,利用Dify平台,将两个大模型的功能融合是最适合的方式。

三、开发环境
1. Docker:4.41.2
2. Dify
3. DeepSeek-Chat
4. qvq-max-latest
四、环境准备
4.1 安装Docker
4.1.1 打开官网:Docker Desktop: The #1 Containerization Tool for Developers | Docker
选择对应的系统进行下载,我下载的AMD64版本。

4.1.2 下载好了直接安装即可
Docker默认会安装到C盘(为啥不让选啊!!),并且资源文件也会下载到C盘,对于一些C盘空间已经岌岌可危的电脑,实在是一场挑战!
所以我找到了装到其他盘的办法,参照网址:Windows系统下装Docker至D盘/其他盘最新方法(最准确,直接装)_docker_脚本之家
a.首先打开命令提示符CMD,进入到安装目录下

b.其次输入如下命令,将Docker安装到指定文件夹下
start /w “” “Docker Desktop Installer.exe” install -accept-license --installation-dir=“D:\Program Files\Docker” --wsl-default-data-root=“D:\Program Files\Docker\data” --windows-containers-default-data-root=“D:\Program Files\Docker”
其中加粗的字段替换为为指定的安装目录路径
c. 安装完成后,检查Resources项中Disk image location是否列出了指定目录位置。


4.2 下载Dify资源
4.2.1 打开 https://github.com/langgenius/dify
这里需要一点小小的看世界的技巧。

4.2.2 解压后得到如下目录

4.2.3 启动本地Dify平台。
a. 首先复制Dify/docker所在路径

b. 打开docker/Terminal

c. 切换到对应目录下,cd *********

d.执行命令docker compose up -d
等待下载完所有组件
期间如果下载卡住,可以取消,重新输入命令继续下载。
e.组件安装完毕后,Dify会被列在列表栏中。点击右侧Start按钮,启动Dify。

4.3 Dify的启动与配置
a. 在浏览器中输入 127.0.0.1 , 会自动进入本地Dify的界面。
首次进入时,需要设置一个管理员的信息。
b. 完成后,将进入一个空白工作台的Dify页面。
*忽略那些已创建的

c. 到这步,首先可以四处点点,看一下大概有些什么内容。
了解一下探索、工作室、知识库、工具里分别有些什么。结合官方文档,简单了解一下。
Dify官方文档:产品简介 - Dify Docs
4.4 DeepSeek API-Keys的创建
a. 打开DS API-Keys连接

b.创建新的Key,注意Key仅在被创建这一刻明文,请记住并妥善保管。

c. 给DS老师充值!
好东西总归不是免费的!否则调用的时候会提示没钱,不让玩儿!
当然,只是玩玩的话,用别的大模型也是一样的,毕竟先试试玩玩的。

4.5 Dify中大模型API-Keys的配置
a. 点击右上角头像-设置

b.左侧选择模型供应商,找到深度求索,并点击安装。

c. 安装之后点击设置,填入对应的API-Key并保存,验证完成后,右上角就会亮一个小绿灯
未被配置的模型会被放置在待配置列表里。
加载模型会需要一些时间,多点两次安装也没事。

4.6 通义千问 API-Keys的创建
a. 打开通义千问API-Keys创建页面,并创建API-Key

b.通义千问目前我用的大模型还没有收费,先蹭蹭再说!
c. 在Dify中配置通义千问大模型,参照4.5的步骤
到此为止,目前基本的配置已经完成了,以上大模型也可以找免费的先替代使用,只要符合需求,作为练手没什么要求。
五、搭建第一个基于Dify平台的聊天助手
5.1 创建空白应用

5.2 创建第一个聊天助手
该步骤为Dify基础功能学习,和主需求无关。已经有基础的同学可以跳到第二章(前提是等我写出第二章)
a. 点开新手适用,选择聊天助手
b. 给应用取一个名字
c. 右侧图标可以选择一个表情
d. 点击创建

5.3 调用语言模型
在右上角大模型中将此前配置好的大模型,DeepSeek LLM在Dify目前接入的版本有三个模型可供选择:
deepseek-chat
deepseek-reasoner
deepseek-coder
a. 我们选择deepseek-chat通用对话模型。

b. 左侧的提示词,可以编辑对AI的约束,如限制AI只能用指定语言回复,或者指定AI的名字等。

c. 指定AI角色,并且用户可以根据提示输入信息插入到提示词中。例如AI会根据用户输入的职位提出一个相应的面试问题。
如果要进一步缩小提问范围,可以通过添加更多的提示词。
如果需要更专业的提问,可以通过添加知识库来限制引用知识的范围。

六、发布第一个聊天应用
a. 当调试完成后,可以点击右上角发布,发布更新

b. 发布成功后,点击运行,会出现正式版的界面。

c. 开始和他聊天吧

d. 此时可以将网页地址的ip改为pc的ip,小伙伴们就可以访问你的chat工具了。
如:192.168.1.20/chat/****
六、小结
到此,第一个基于Dify平台,加载大模型的chat聊天工具就搭建好了。这一章主要是先熟悉和磨合工具。下一章将会引入工作流的概念,将多个大模型结合起来:
a. 利用Dify平台目前的大模型资源,通过通义千问大模型图像分析并得出错误。
b. 通过知识检索在知识库中寻找可能的答案
c. 限制Deepseek仅依靠知识库中的内容,并分析出可能得解决方式并输出结果。
d. 向用户输出结果

七、感谢
感谢各位大佬的莅临,学习之路漫漫,吾将上下而求索。有任何想法请在评论区留言哦!
再次感谢!

更多推荐


所有评论(0)