Dify 是 苏州语灵人工智能科技公司的一款开源的大语言模型(LLM) 应用开发平台。它融合了后端即服务（Backend as Service）和 LLMOps 的理念，使开发者可以快速搭建生产级的生成式 AI 应用。即使你是非技术人员，也能参与到 AI 应用的定义和数据运营过程中。
由于 Dify 内置了构建 LLM 应用所需的关键技术栈，包括对数百个模型的支持、直观的 Prompt 编排界面、高质量的 RAG 引擎、稳健的 Agent 框架、灵活的流程编排，并同时提供了一套易用的界面和 API。这为开发者节省了许多重复造轮子的时间，使其可以专注在创新和业务需求上。

1. 下载dify项目到本地

git clone https://github.com/langgenius/dify.git

docker-compose.yaml所在目录

2. 修改env

cp .env.example .env

2.1. 修改向量存储类型为milvus

端口要和milvus的docker-compose设置的端口一致

2.2. etcd和minio使用本地部署（可选择）

milvus一键部署跳过这步

3. 启动服务

docker-compose up -d
docker-compose ps

http://ip/signin 邮箱登录

4. 设置模型

右上角设置

4.1. ollama的LLM模型

模型名称使用ollama list获取

4.2. Xinference的向量模型

模型名称和id在Xinference页面获取

4.3. Xinference的倒排索引模型

模型名称和id在Xinference页面获取

5. 知识库使用

5.1. 上传本地文件

右上角出现这个报错表示当前使用的默认模型，实际不存在

5.2. 可先选择经济方式，后续修改

5.3. 设置知识库使用模型

如果使用倒排索引也可以选择Rerank模型 、

5.4. 保存等待索引状态

如果页面出现报错也可查看dify_worker_1的日志

docker ps -a |  grep  dify

6. 应用使用

6.1. 创建应用

6.2. 修改模型

6.3. 引用知识库

6.4. 调试

如果你觉得文章还不错，请大家 点赞、分享、留言下！我还为大家准备了学习资料，感兴趣的小伙伴快来找我领取一起交流学习哦！