从零开始,小白在windows部署deepseek与dify
然后导出Ubuntu-22.04为tar文件,输入wsl --export Ubuntu-22.04 E:\WSL\Ubuntu-22.04\Ubuntu-22.04.tar回车,E:\WSL\Ubuntu-22.04是我刚创建的文件夹,Ubuntu-22.04.tar是导出的文件名,可以按照你的配置命名。尴尬了,又遇到问题,添加不了模型,研究了好几天没找到办法,我放弃用dify了,我的点击保存后
windows部署deepseek与dify教程。
看到网上那么多deepseek与dify,ragflow,anything等文章,自己部署的时候又踩了好多坑,不停的重装电脑。现在就记录一下deepseek与dify部署的最细记录,以及碰到的问题和解决方法。接下来正式开始:
一. win10安装Docker和WSL。
1.WSL安装
① 安装Docker需要虚拟环境,首先打开控制面板。
② 打开程序。
③ 点击程序和功能,打开启用或关闭windows功能。
④ 勾选适Hyper-V(这一个好像是用不着的,但是我也不确定就勾上了)以及用于linux的windows子系统(这个必装的),虚拟机平台和远程差分压缩API支持(这两个我默认都是勾上的),勾选后点确定等待安装完成,提示重启电脑的话就重启一下。
⑤ 安装完成后我的电脑里出现两个图标WSL和WSL Settings。应该是虚拟机设置的地方,不用管。
⑥安装完成以后要升级一下wsl,确保后续不会出问题。按住Win键加R键或则右键点击windows菜单键打开运行,输入CMD回车,如果之后输入命令有错误的话,就在开始菜单找到cmd程序以管理员身份运行。
打开cmd命令窗口后输入wsl --update,如果是最新版就不用管了,如果不是的话就等待更新。更新的时候可能会一直不动卡着更新不了,可以按Ctrl+C先取消更新,然后到Releases · microsoft/WSL这个地方下载离线安装包。有时候这个网站打不开,我的解决办法是在C:\Windows\System32\drives\etc文件夹中修改hosts文件,以记事本打开,添加一条20.205.243.166 github.com/,IP地址和网址中间有空格,有时候保存的时候不让保存,这需要我们以管理员身份打开记事本,然后打开hosts文件再修改保存。
2.docker安装
①安装docker之前先安装一下ubuntu,ubuntu是一个linux系统,我们需要把ubuntu系统安装到其他盘,不然C盘满了又不知道怎么删除太麻烦了。先再其他盘创建一个文件夹,我在E盘创建了一个WSL的文件夹,WSL里创建Ubuntu-22.04文件夹。
然后查看ubuntu发行版本,在cmd中输入wsl --list --online,这里会可能会出现错误:无法从“https://raw.github...”中提取列表分发,无法解析服务器的名称或地址。同样在hosts文件中添加185.199.110.133 raw.githubusercontent.com这一串文字。再次输入wsl --list --online,查看到最新版本是22.04。输入wsl --install -d Ubuntu-22.04,等待安装完成。
安装完成后让我们创建新的用户和密码,按照提示创建后Ctrl+D退出。
然后导出Ubuntu-22.04为tar文件,输入wsl --export Ubuntu-22.04 E:\WSL\Ubuntu-22.04\Ubuntu-22.04.tar回车,E:\WSL\Ubuntu-22.04是我刚创建的文件夹,Ubuntu-22.04.tar是导出的文件名,可以按照你的配置命名。
然后输入wsl --unregister Ubuntu-22.04注销原系统。
之后输入wsl --import Ubuntu-22.04 E:\WSL\Ubuntu-22.04 E:\WSL\Ubuntu-22.04\Ubuntu-22.04.tar --version 2,将ubuntu安装到E盘下。此时文件夹下出现ext4.vhdx说明系统安装成功了。
接下来创建普通用户,先启动ubuntu系统,wsl -d Ubuntu-22.04。然后adduser + 你的用户名可以创建用户,我试了一下之前的用户名还在,我就没有创建。然后usermod -aG sudo 你的用户名,提升管理权限。
② Docker安装,Docker默认安装到C盘,太占地方了,我就把它安装到其他盘了。先下载Docker,去官网下载Docker: Accelerated Container Application Development,可能访问有点慢,这里又遇到问题,下载不了,网页无法访问。我们选择要下载的版本,然后右键复制链接,打开迅雷,粘贴进去,就可以下载了。这个办法有好多像github上下载不了的东西可以用迅雷试试,挺好用的。
下载完成后不要直接安装,我们还是打开cmd命令,输入"E:\安装包等\AI工具\Docker Desktop Installer.exe" install --installation-dir="D:\AI\Docker"。
(1)“E:\安装包等\AI工具\Docker Desktop Installer.exe”:安装包的完整路径。
(2)install:执行安装操作的命令。
(3)–installation-dir=“D:\AI\Docker”:指定新的安装目录。
等待执行后弹出docker安装界面,直接点击OK等待。
之后安装完成后我们就把docker安装到了其他盘。
之后需要汉化一下Docker,因为我英文不太好,所以汉化一下,也wa可以不汉化,汉化包下载地址GitHub - asxez/DockerDesktop-CN: Docker汉化 Docker中文版 Docker汉化包 DockerDesktop汉化 Docker Windows Docker MAC
在这里又打不开了,还是修改hosts文件的方法,这个方法是到github.com服务器iP github.com域名解析 github.comiP查询 github.com域名iP查询这个网站,复制github网址进去,然后等他解析,然后修改IP到hosts文件,我解析出来三个,第一个打不开我就换了第二个,可以打开了。
下载后解压缩,找到跟你docker版本一致的文件,我的docker版本是4.38,所以复制的app-4.38-windows-x86到Docker安装目录D:\AI\Docker\frontend\resources,然后把原来的app.asar文件修改为其他名称,把我们复制进来的文件名改为app.asar.重新启动docker就设置为中文了。
启动docker后首先点Accept,之后点continue那个不登陆,然后点右上角skip忽略。进入可以看到右下角的版本号,同时我们设置的界面也变成了中文。
安装完成后我们还需要修改一个设置,在docker设置,资源,高级中把磁盘镜像位置更改到其他地方,不然默认是C盘。
到现在Docker已经安装完成了。接下来需要安装dify了。
二、安装dify
1.下载项目首页 - dify:一个开源助手API和GPT的替代品。Dify.AI 是一个大型语言模型(LLM)应用开发平台。它整合了后端即服务(Backend as a Service)和LLMOps的概念,涵盖了构建生成性AI原生应用所需的核心技术栈,包括内置的RAG引擎。 - GitCode先下载dify文件到本地。
2.安装
解压缩后以管理员身份打开cmd,输入cd/d E:\DockerData\dify-main\docker,进入dify的docker文件夹,之前试过好多次cd都进不了文件夹,最后找到办法是得用dc/d进入。
在命令行中运行 copy .env.example .env
,生成 .env
文件。
再运行docker compose up -d,此时,又报错了。。
解决办法,Docker中替换镜像源地址。具体办法是在docker设置中,找到Docker引擎,然后右边替换为:
{
"builder": {
"gc": {
"defaultKeepStorage": "20GB",
"enabled": true
}
},
"experimental": false,
"registry-mirrors": [
"https://docker.1ms.run",
"https://hub.rat.dev",
"https://docker.1panel.live",
"https://hub.rat.dev",
"https://proxy.1panel.live",
"https://ghcr.nju.edu.cn",
"https://docker.registry.cyou",
"https://dockercf.jsdelivr.fyi",
"https://docker.rainbond.cc",
"https://registry.cn-shenzhen.aliyuncs.com",
"https://dockertest.jsdelivr.fyi",
"https://mirror.aliyuncs.com",
"https://mirror.baidubce.com",
"https://docker.mirrors.ustc.edu.cn",
"https://docker.mirrors.sjtug.sjtu.edu.cn",
"https://mirror.iscas.ac.cn",
"https://docker.nju.edu.cn",
"https://docker.m.daocloud.io",
"https://dockerproxy.com",
"https://docker.jsdelivr.fyi",
"https://docker-cf.registry.cyou"
]
}
耐心等待完成,若出现端口冲突(例如 Error response from daemon: Ports are not available
),可通过以下方法解决:
方法一:关闭占用 80 端口的服务。
方法二:修改 .env
文件中端口号,将 NGINX_PORT=80
和 EXPOSE_NGINX_PORT=80
改为 81
。
安装完成后打开浏览器本地输入http://localhost:80,80为你的端口,如果你修改为其他端口的话这里填你修改后的端口。我打开后又出现了问题。。。网页右上角报错“internal server error”。
解决办法:打开cmd命令输入ipconfig,找到WSL的IP地址,我的是172.30.48.1,然后打开dify下docker文件夹里的.env文件
搜索CONSOLE_API_URL=后边的地址改为WSL的地址加你的端口号,我的端口是80,所以没有填写,正常应该是http://172.30.48.1:80。同时我把下边那个SERVICE_API_URL、APP_API_URL、TIDB_API_URL、TIDB_IAM_API_URL也同样修改了,不知道会不会又问题,之后使用有问题再找解决办法把。
然后浏览器输入新的WSL的IP地址加端口,可以正常登录了。
Dify部署完成。
三、部署deepseek-r1
1.下载ollama
bing搜索ollama或打开Download Ollama on Windows官网下载ollama,找到下载界面右键复制下载链接,转到迅雷下载速度会快些,而且下载也可能会直接打不开。
下载完成后迅雷就可以卸载了,用不到了,哈哈,不过 我还是保留了。感觉还挺有用。
2.安装ollama
双击安装文件即可打开ollama安装包,等待安装完成,我本来想是不是可以按照docker的安装方式把它安装到其他盘,发现不行,用这个命令"D:\Download\迅雷下载\OllamaSetup.exe" install --installation-dir="D:\AI\Ollama"安装后还是安装在C盘。
等待安装完成后,我们把C:\Users\'你的用户名称'文件夹下的.ollama文件夹拷贝到其他盘,这个文件夹是你放Deepseek大模型的地方 ,找一个地方大点的盘,我放到了E盘新建了一个ollamaModel的文件夹里。记住这个地址,一会儿会用到。
打开C:\Users\32921\AppData\Local\Programs这个文件夹,32921是改为你的用户名,一种办法是直接复制修改我的这个链接,另一种是在C:\Users\32921找不到AppData这个文件夹,你直接在浏览器后边输入或把显示隐藏文件打开,在Programs这个文件夹里把ollama这个文件夹剪切到其他盘,前提是先退出ollama。我复制到了D:\AI\文件夹下。
3.配置环境变量
上述步骤完成后,需要配置环境变量ollama才能再次使用并且大模型文件下载到其他盘。
① 直接在搜索栏搜索环境变量,然后打开
② 选择高级中的环境变量,找到path点击编辑。
因为我是新装的系统 ,也就两条信息,最下边这条信息就是我们一开始安装的ollama的地址,选择这一条信,然后点浏览新增修改为我们复制后的地址。
,
③ 之后还需要新增一个环境,点击新建,上边下边都可以,变量名OLLAMA_MODELS,变量只是我们刚刚复制的.ollama文件夹的位置。
④ 还需要建立一个环境变量,之前没有建立会连接不上ollama,新建一个名称为OLLAMA_HOSTDE,值为:11434。意思是 好像是把ollama的11434端口映射到所有网段,不然会被防火墙限制。添加完成之后需要重启电脑。
4.下载deepseek模型
电脑重启后打开cmd,输入一下命令下载模型,根据自己电脑配置选择:
① ollama run deepseek-r1:1.5b
② ollama run deepseek-r1:7b
③ ollama run deepseek-r1:8b
④ ollama run deepseek-r1:14b
⑤ ollama run deepseek-r1:32b
后边同样的道理,就是把:后改称你要下载的模型大小就可以了。等待下载完成,下载后可以看一下你配置的模型的盘是不是增长了,而不是C盘增长,说明模型下载到其他盘了。
可以输入ollama list查看已经下载 的模型。
下载的时候越往后下载速度越慢,可以Ctrl C退出后再次运行ollama run deepseek-r1:1.5b这个命令,他是保存之前的进度,然后从之前的进度开始下载,再次下载速度会增加。
ollama run这个命令是以后我们启动大模型的常用命令,大模型下载成功以后再次输入run命令就是启动大模型。当出现一下界面就表示大模型运行起来了,这里你可以跟它对话。把这个对话框最小化,记得不是关闭,关闭相当于关闭了大模型。
b
四、dify与ollama中的deepseek对接
1.启动docker和dify
之前的步骤我们重启了电脑 docker关闭了,我们找到docker快捷方式启动一下docker,等待启动 后我们还是需要打开之前dify下载后解压出来的地方,以管理员身份打开cmd,输入cd/d E:\DockerData\dify-main\docker,这个是我存放的地址,运行docker compose up -d,等待启动。
有时候docker启动会有个弹窗报错,如果右下角有个restart ubuntu那个的话点一下就可以了,好像是一个提醒。
dify加载起来了,接下来可以配置dify了。
2.dify配置
输入我们之前dify的地址,我的是172.30.48.1,这个是WSL的IP地址,加你设置的端口号,我的默认80不用写。因为之前登陆过所以不用再次登录了。
先点击右上角的用户名称,找到设置,打开,在模型供应商找到ollama然后安装。
耐心等待安装完成。我这里遇到个问题是安装特别慢,不知道怎么回事。然后我就下载到本地安装了一下。在dify主页面用户头像旁边有一个插件的选项,然后再模型哪里ollama有个详情跳转到插件下载页面,下载后本地安装 一下。
在大模型配置界面出现待配置,点击ollama右下角添加模型按钮。
模型类型就选择LLM,模型名称要跟你下载的模型名称一致,我的是deepseek-r1:8b,如果要查看自己模型叫什么名字,在cmd中输入ollama list查看。基础 URL填写我们WSL的IP地址加11434端口,这一步我们之前在环境变量建立一个11434的变量,这里就用到了。其他默认。
尴尬了,又遇到问题,添加不了模型,研究了好几天没找到办法,我放弃用dify了,我的点击保存后没有反应,也不提示错误。网上的修改.evn文件,加环境变量这些办法都试过了,docker和dify我也重装了,还是同样的问题,不知道是什么原因,改换maxkb试试。
最新dify的问题解决了,不要用1.0.0.0及以上的版本,有0.15.3的版本,我换成0.15.3版本就可以正常添加ollama了。
更多推荐
所有评论(0)