
小白自用笔记:Mac m4 本地化部署 deepseek+ragflow 全流程记录
安装成功后,需要或者运行才能生效。输入brew -v验证 Homebrew 是否安装成功:出现版本号说明 Homebrew 已经安装成功了。
安装 Homebrew
推荐通过国内镜像安装,在终端输入以下代码:
/bin/bash -c "$(curl -fsSL https://gitee.com/cunkai/HomebrewCN/raw/master/Homebrew.sh)"
安装成功后,需要重启终端或者运行
source /Users/your_user_name/.zprofile
才能生效。
输入
brew -v
验证 Homebrew 是否安装成功:出现版本号说明 Homebrew 已经安装成功了。
如果要卸载通过国内镜像安装的Homebrew,输入:
/bin/zsh -c "$(curl -fsSL https://gitee.com/cunkai/HomebrewCN/raw/master/HomebrewUninstall.sh)"
安装Git
有了homebrew很多安装和配置工作都可以一行代码解决。
在终端输入以下代码,安装Git。
brew install git
下载并安装docker
Docker Desktop: The #1 Containerization Tool for Developers | Docker
我安装在系统盘上了(选择了默认安装),没有尝试安装在移动硬盘上。
下载并安装Ollama
Mac 上Github总是遇到问题,所以我用手机通过科学上网,在github搜ollama直接下载zip,再在Mac上直接安装,效果是一样的。
可以安装在移动硬盘上,没有问题。
注意安装好后,要配置环境变量
launchctl setenv OLLAMA_HOST "0.0.0.0"
部署deepseek
选一个适合自己电脑配置的蒸馏版本即可,我选择的是8b的版本。
下载Ragflow
直接使用下面代码:
git clone https://github.com/infiniflow/ragflow.git
如果遇到Mac无法访问github的问题:
解决方案——SSH
1. 打开终端,输入一下命令,user.name和user.email就是github的用户名和邮箱。
git config --global user.name "xxxx"
git config --global user.email "xxxx@qq.com"
2. 创建秘钥
ssh-keygen -t rsa -C "xxxx@qq.com"
建议一切选择默认。
3. 复制~/.ssh/id_rsa.pub中
的内容(ssh秘钥)
可以用以下命令,直接复制~/.ssh/id_rsa.pub中
的内容到剪切板。
pbcopy < ~/.ssh/id_rsa.pub
4. 设置用ssh访问github
打开GitHub网站,登录账号,选择“Settings”。在左侧导航栏中,选择“SSH and GPG keys”。点击“New SSH key”按钮,然后将剪切板中复制的公钥粘贴到“Key”文本框中,为公钥设置一个可识别的标题,然后点击“Add SSH key”按钮。成功将刚刚生成的"SSH key"添加到Github账号。
注意,这一步可以不在Mac上进行。(规避Mac无法访问github的问题)
5. 测试SSH连接是否成功
ssh -T git@github.com
6. 用SSH方式clone仓库
在终端cd
到要保存文件的路径下面
git clone git@github.com:infiniflow/ragflow.git
安装Ragflow
首先,我们需要修改一些docker/.env 文件内的 RAGFLOW_IMAGE
变量
注意:这个文件是隐藏的,我们进到ragflow/docker文件夹后,用快捷键"command+shift+."显示隐藏,打开".env"文件直接修改里面的内容即可。
1. 设置Docker container可以使用的储存空间大小。(原本大概是7个G,略小)
2. 修改下载RAGFlow Docker image的方式:
此处做了两处修改:第一处,注释掉了下载默认的slim版本,改为下载有embedding models的full版本。(否则后续解析知识库的时候还需要自己下载和添加文本处理模型);另外,在下载地址前面增加了"swr.cn-north-4.myhuaweicloud.com/",选用华为云的方式下载,不用科学上网。
docker compose
启动服务
docker compose -f docker/docker-compose.yml up -d
完成以上设置的话,应该能够顺利无报错的完成
确认服务器状态
docker logs -f ragflow-server
看到如下界面,恭喜你,成功了。
配置模型和使用Ragflow
1. 耐心等待相关的服务启动,然后在浏览器中输入http://127.0.0.1 进行访问。第一次登录需要注册。
2. 配置模型
在待添加的模型中选择OLLAMA
图片来自网络,但是我的情况和他是几乎一样的,所以,我使用了同样的基础Url。只需要将模型名称,替换成自己的就可以了。
查看模型名称的方式,是在终端中输入:
ollama list
3. 上传和解析知识库
这一步很直白,图形化的界面看看都懂。
需要注意的是,解析可能会因为缓存空间不足而失败。可以在docker的设置中把资源给足一点,重启后生效,就不会失败了。
参考资料:
Mac下github的基本使用(有详细过程)_mac github-CSDN博客
本地部署DeepSeek + Ragflow_mac本地部署ragflow-CSDN博客
Mac 上编译 Ragflow_ragflow+docker——mac-CSDN博客
纯小白用Ollama+RagFlow 部署本地知识库_ragflow配置ollama-CSDN博客
以及 b站up主——麦麦大数据毕业设计:(macos版)ragflow+deepseek 私域知识库搭建流程分享
更多推荐
所有评论(0)