dify-1.0.1 + deepseek调用本地知识库
Dify 是一款开源的大语言模型(LLM) 应用开发平台。它融合了后端即服务(Backend as Service)和 LLMOps 的理念,使开发者可以快速搭建生产级的生成式 AI 应用。即使你是非技术人员,也能参与到 AI 应用的定义和数据运营过程中。由于 Dify 内置了构建 LLM 应用所需的关键技术栈,包括对数百个模型的支持、直观的 Prompt 编排界面、高质量的 RAG 引擎、稳健的
目录
一、Dify的参考文档
二、Ollama的参考文档
三、 启动DIfy
- 直接下载release版本的dify-1.0.1 ;
- 进入 Dify 源代码的 Docker 目录: cd dify/docker;
- 复制环境配置文件: cp .env.example .env;
#最后添加以下代码,可以调用本地的知识库: #Add Ollama #启动自定义模型 CUSTOM_MODEL_ENABLED=true #指定Ollama的API地址 OLLAMA_API_BASE_URL=host.docker.internal:11434
-
启动 Docker 容器
根据你系统上的 Docker Compose 版本,选择合适的命令来启动容器。你可以通过
$ docker compose version
命令检查版本,详细说明请参考 Docker 官方文档:运行命令后,你应该会看到类似以下的输出,显示所有容器的状态和端口映射:
-
自定义配置 编辑 .env 文件中的环境变量值。然后重新启动 Dify: Copy docker compose down docker compose up -d 完整的环境变量集合可以在 docker/.env.example 中找到。
切记需要先启动Docker!!!!!
四、Dify配置界面
2、添加模型:地址与.env.最后的Ollama一致。
3、显示添加的模型:
五、本地知识库
六、常见问题和指令
1、查看日志:
/home/user/SKGJ/LLM/Dify/dify-1.2.0/docker# docker compose logs
2、先暂停后删除
sudo docker stop 236f4cf29906 2797a7639b08 abe9879f428b
sudo docker rm 236f4cf29906 2797a7639b08 abe9879f428b
3、重新运行Dify
docker compose down
docker compose up -d
4、出现“Internal Server Error”
root@user-08:/home/user/SKGJ/LLM/Dify/dify-1.2.0/docker# docker ps
CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES
eb4ecd46fe73 nginx:latest "sh -c 'cp /docker-e…" 27 minutes ago Up 27 minutes 0.0.0.0:80->80/tcp, [::]:80->80/tcp, 0.0.0.0:443->443/tcp, [::]:443->443/tcp docker-nginx-1
2ccb86fc42f1 langgenius/dify-api:1.2.0 "/bin/bash /entrypoi…" 27 minutes ago Up 27 minutes 5001/tcp docker-api-1
940ea7233cfb langgenius/dify-api:1.2.0 "/bin/bash /entrypoi…" 27 minutes ago Up 27 minutes 5001/tcp docker-worker-1
1f458c0affee langgenius/dify-plugin-daemon:0.0.7-local "/bin/bash -c /app/e…" 27 minutes ago Restarting (2) 20 seconds ago docker-plugin_daemon-1
b7cb6b0b1e3a langgenius/dify-web:1.2.0 "/bin/sh ./entrypoin…" 27 minutes ago Up 27 minutes 3000/tcp docker-web-1
4cf8ed5a3628 postgres:15-alpine "docker-entrypoint.s…" 27 minutes ago Up 27 minutes (healthy) 5432/tcp docker-db-1
f3a8c6b23934 redis:6-alpine "docker-entrypoint.s…" 27 minutes ago Up 27 minutes (healthy) 6379/tcp docker-redis-1
967b33bda13b ubuntu/squid:latest "sh -c 'cp /docker-e…" 27 minutes ago Up 27 minutes 3128/tcp docker-ssrf_proxy-1
43d2eb13a6c9 semitechnologies/weaviate:1.19.0 "/bin/weaviate --hos…" 27 minutes ago Up 27 minutes docker-weaviate-1
2a96276fa35a langgenius/dify-sandbox:0.2.11 "/main" 27 minutes ago Up 27 minutes (healthy) docker-sandbox-1
安装dify 1.2.0也出现了这个问题,跟了一下发现langgenius/dify-plugin-daemon:0.0.7-local一直在restarting,然后跟踪了一下日志发现提示S3_USE_AWS_MANAGED_IAM环境变量读取设置的时候报布尔类型转换错误,发现.env里PLUGIN_S3_USE_AWS_MANAGED_IAM参数是空,改为了false后S3_USE_PATH_STYLE报错,同样把这个PLUGIN_S3_USE_PATH_STYLE参数改为false后重启docker没问题了。
需要为 S3_USE_AWS_MANAGED_IAM 变量设置一个有效的布尔值( true 或 false )。根据配置文件中的注释,默认值应该是 false 。
PLUGIN_S3_USE_AWS_MANAGED_IAM=false
PLUGIN_S3_USE_PATH_STYLE=false
确保它们都有明确的 true 或 false 值,而不是空字符串
添加后即可解决
更多推荐
所有评论(0)