⁄(⁄ ⁄•⁄ω⁄•⁄ ⁄)⁄ 春和景明,祝大家学习快乐,工作顺利!

欢迎浏览,欢迎指导,共同进步~

关键词

Docker, DeepSeek, Ollama, Dify, DOW

硬件环境

  • CPU >= 2 Core
  • 集成显卡 Intel Iris Graphics 6100(推荐显存/RAM ≥ 16 GiB)

本集简介

  • 阶段目标:能使用Dify编排简单的对话。
  • 大致步骤:先安装Docker,再部署Ollama,接着下载deepseek-r1模型(此处量“算力”而行),最后利用Docker部署Dify,最后的最后简单的测试聊天助手效果。
  • 下集预告:利用DOW项目接入微信,并完成对话。

安装Docker

  1. 根据芯片类型选择下载Docker Desktop版本,链接如下:
    https://www.docker.com/products/docker-desktop/
    在这里插入图片描述

  2. 安装与启动:

  • 双击下载的.dmg文件,将Docker图标拖到Applications文件夹;
  • 在Applications中点击Docker图标以启动Docker desktop;首次打开启动会提示需要权限,点击“OK”并输入管理员密码即可(苹果安装惯例啦);
  • 出现鲸鱼图标🐳代表初始化完成。参考链接如下:
    安装与启动参考链接
  1. 验证安装是否成功:打开终端(Terminal),运行以下命令,若显示docker版本号表示安装成功(可使用hello-world验证)
    docker --version
    docker run hello-world
    docker ps -a
    
    在这里插入图片描述
    在这里插入图片描述

部署Ollama

  1. 打开Ollama官网,点击“Download↓”,接着选择对应系统
    在这里插入图片描述
    在这里插入图片描述

  2. 解压已下载的文件,并双击“Ollama.app”,将其移至Applications
    在这里插入图片描述

  3. 安装与启动:首次打开启动会提示需要权限,点击“OK”并输入管理员密码即可;出现羊驼图标代表初始化完成。

  4. 验证安装是否成功:打开终端(Terminal),运行以下命令,若显示版本号表示安装成功

    ollama --version
    
  5. 进一步在“Models”选择安装所需的模型,笔者这里下载了“deepseek-r1:1.5b”(LLM模型)和“bge-m3:latest”(语义向量模型),对应的命令行如下所示(下载需要花一定的时间,模型大小与下载时间一定程度成正比)。若出现“>>>”表示已完成下载。

    ollama run deepseek-r1:1.5b
    ollama run bge-m3:latest
    

    在这里插入图片描述
    在这里插入图片描述

部署Dify

部署Dify的方式主要可分为三种:

  • Docker Compose部署
  • 本地源码启动
  • 宝塔面板部署

在这里,我们主要采用Docker Compose部署方式。

  1. 下载Dify源代码至本地环境(注意选择Dify版本),下载链接如下所示:Dify下载链接
    在这里插入图片描述

  2. 启动Dify:进入Dify源代码的Docker目录;复制环境配置文件;修改.env文件中的超时设定时间,将0.1s修改为10s;结合Docker Compose版本选择合适命令启动Docker容器。

    cd dify/docker
    cp .env.example .env
    
    REDIS_SENTINEL_SOCKET_TIMEOUT=10
    CELERY_SENTINEL_SOCKET_TIMEOUT=10
    
    docker compose version
    // 若版本是Docker Compose V2,使用一下命令
    docker compose up -d
    // 若版本是Docker Compose V1,使用一下命令
    docker-compose up -d
    // 更新Dify(以Docker Compose V2为例)
    cd dify/docker
    docker compose down
    git pull origin main
    docker compose pull
    docker compose up -d
    

    在这里插入图片描述

  3. 访问Dify

  • 若第一次使用Dify,可先前往管理员初始化页面设置并设置管理员账号
    http://localhost/install
    
  • 进入Dify主页面
    http://localhost
    
    在这里插入图片描述

简单测试聊天助手效果

  1. 点击“工作室”;再选择“创建空白应用”;为聊天助手取个名字,比如“小助手”
    在这里插入图片描述
    在这里插入图片描述

  2. 在Dify接入本地部署的LLM模型和语义向量模型

  • 点击右上角用户设置,并选择“设置”
  • 选中模型供应商,并在安装模型供应商中选择“Ollama”
  • 选择“添加模型”,并配置属性,如图所示(注意:Docker启动Dify的地址为http://host.docker.internal:11434)
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
  1. 测试对话(到这步,表示你已成功接入本地模型啦✿✿ヽ(°▽°)ノ✿)
    在这里插入图片描述

下集预告

  1. 利用DOW项目接入微信,并实现对话;
  2. 增加天气预告插件,并测试效果;
  3. 待补充

参考内容

[1] https://docs.dify.ai/zh-hans/learn-more/use-cases/private-ai-ollama-deepseek-dify
[2] https://github.com/langgenius/dify
[3] https://docs.dify.ai/zh-hans/getting-started/install-self-hosted/docker-compose

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐