
AI大模型应用实战: DeepSeek+RAGflow纯本地化知识库搭建全教程
作者在搭建私有知识库部署ragflow过程中踩了很多坑,在此分享一下本地安装部署经验。话不多说,本文全程干货。
作者在搭建私有知识库部署ragflow过程中踩了很多坑,在此分享一下本地安装部署经验。话不多说,本文全程干货。
重要提醒,过程中至少需要重启电脑2次,大家记得提前保存教程哦。
DeepSeek模型本地化部署
这个部分在网上很多正确的教程,此处按照步骤快速带过。
下载安装ollama
找到ollama官网,点击下载,把安装包下载到本地。
双击安装包,点击安装即可。安装完成后win+R键打开左下角运行窗口,输入cmd后回车。在命令行输入
代码解读
复制代码ollama -v
返回版本信息即为运行成功
命令行拉取deepseek模型
在ollama官网搜索deepseek-r1模型,选择一个合适的模型(这里以1.5b为例)。复制命令,然后打开刚刚的命令行直接粘贴进去然后回车,显示“success”就OK了。
RAGflow部署
启动电脑的支持
- 打开控制面板–>程序和功能–>启用和关闭Windows功能–>Hyper-V打勾,适用于Linux的Windows子系统打勾,虚拟机平台打勾。确定后等待下载和更新,完成后点立即重启电脑。
- 打开任务管理器–>性能–>CPU,查看虚拟化是否已启用。
docker下载与安装
- 下载适用x64的WSL,点击下一步和安装即可。 命令行运行
css
代码解读
复制代码wsl --update
打开powershell,以管理员身份运行
csharp代码解读复制代码# 将 WSL 默认版本设置为 WSL 2
wsl --set-default-version 2
\2. 到docker官网下载4.29.0版本安装包(4.30.0及以上不支持更改镜像)。
3. 下载完成双击installer,直接开始安装,等待安装完成后重启计算机。
4. 重启完成后,双击桌面docker desktop启动,看到containers首页即为安装成功
5. 修改镜像源:点击右上角设置图标,在Docker Engine里面修改添加镜像源(不添加镜像源的话Docker默认从外网下载,网速非常慢,容易下载失败)。
这里,作者使用的镜像源如下:
json代码解读复制代码"registry-mirrors": [
"https://docker.tbedu.top",
"https://docker.1panel.live",
"https://docker.mirrors.ustc.edu.cn",
"https://registry.docker-cn.com"
]
RAGflow下载与知识库构建
部署RAGflow的软硬件条件
- CPU >= 4 核
- RAM >= 16 GB
- Disk >= 50 GB
- Docker >= 24.0.0 & Docker Compose >= v2.26.1
-
到github下载ragflow源码(没有git可以直接下载zip压缩包)。下载到本地后解压到全英文路径下。
-
使用docker拉取ragflow远程镜像源。此处需要先修改配置为下载完整版。在拉取的ragflow仓库路径下的docker/.env 文件内的RAGFLOW_IMAGE变量,通过设置RAGFLOW_IMAGE=infiniflow/ragflow:v0.16.0来下载 RAGFlow镜像的 v0.16.0 完整发行版。
在ragflow-main文件夹(你压缩包里的文件夹的名字)下打开cmd窗口运行以下命令:
bash
代码解读
复制代码docker compose -f docker/docker-compose.yml up -d
\3. 打开浏览器,进入到本地的ragflow,注册账号进行登录
4. 点击右上角头像,在模型提供商中添加我们本地部署的deepseek模型。注意模型的名称要和ollama官网名称完全一致在系统设置中配置Chat模型(deepseek)和Embedding模型(RAGFlow自带的)
现在就可以按需创建知识库,上传解析文件了。之后创建聊天助手(注意prompt和tokens的配置)就能开始对话了
如何零基础入门 / 学习AI大模型?
大模型时代,火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业?
”“谁的饭碗又将不保了?
”等问题热议不断。
不如成为「掌握AI工具的技术人」
,毕竟AI时代,谁先尝试,谁就能占得先机!
想正式转到一些新兴的 AI 行业,不仅需要系统的学习AI大模型。同时也要跟已有的技能结合,辅助编程提效,或上手实操应用,增加自己的职场竞争力。
但是LLM相关的内容很多,现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学,学习成本和门槛很高
那么我作为一名热心肠的互联网老兵,我意识到有很多经验和知识值得分享给大家,希望可以帮助到更多学习大模型的人!至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费
】
👉 福利来袭
CSDN大礼包:《2025最全AI大模型学习资源包》免费分享,安全可点 👈
全套AGI大模型学习大纲+路线
AI大模型时代的学习之旅:从基础到前沿,掌握人工智能的核心技能!
640套AI大模型报告合集
这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。
👉学会后的收获:👈
• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;
• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;
• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;
• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。
👉 福利来袭
CSDN大礼包:《2025最全AI大模型学习资源包》免费分享,安全可点 👈
这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费
】
作为普通人,入局大模型时代需要持续学习和实践,不断提高自己的技能和认知水平,同时也需要有责任感和伦理意识,为人工智能的健康发展贡献力量。
更多推荐
所有评论(0)