作者在搭建私有知识库部署ragflow过程中踩了很多坑,在此分享一下本地安装部署经验。话不多说,本文全程干货。

重要提醒,过程中至少需要重启电脑2次,大家记得提前保存教程哦。

DeepSeek模型本地化部署

这个部分在网上很多正确的教程,此处按照步骤快速带过。

下载安装ollama

找到ollama官网,点击下载,把安装包下载到本地。 在这里插入图片描述
双击安装包,点击安装即可。安装完成后win+R键打开左下角运行窗口,输入cmd后回车。在命令行输入

代码解读
复制代码ollama -v

返回版本信息即为运行成功 在这里插入图片描述

命令行拉取deepseek模型

在ollama官网搜索deepseek-r1模型,选择一个合适的模型(这里以1.5b为例)。复制命令,然后打开刚刚的命令行直接粘贴进去然后回车,显示“success”就OK了。 在这里插入图片描述

RAGflow部署

启动电脑的支持

  1. 打开控制面板–>程序和功能–>启用和关闭Windows功能–>Hyper-V打勾,适用于Linux的Windows子系统打勾,虚拟机平台打勾。确定后等待下载和更新,完成后点立即重启电脑

在这里插入图片描述
在这里插入图片描述

  1. 打开任务管理器–>性能–>CPU,查看虚拟化是否已启用。 在这里插入图片描述

docker下载与安装

  1. 下载适用x64的WSL,点击下一步和安装即可。 命令行运行
css

代码解读
复制代码wsl --update

打开powershell,以管理员身份运行

csharp代码解读复制代码# 将 WSL 默认版本设置为 WSL 2
wsl --set-default-version 2

\2. 到docker官网下载4.29.0版本安装包(4.30.0及以上不支持更改镜像)。 在这里插入图片描述
3. 下载完成双击installer,直接开始安装,等待安装完成后重启计算机。 在这里插入图片描述
4. 重启完成后,双击桌面docker desktop启动,看到containers首页即为安装成功 在这里插入图片描述
5. 修改镜像源:点击右上角设置图标,在Docker Engine里面修改添加镜像源(不添加镜像源的话Docker默认从外网下载,网速非常慢,容易下载失败)。 在这里插入图片描述
这里,作者使用的镜像源如下:

json代码解读复制代码"registry-mirrors": [
    "https://docker.tbedu.top",
    "https://docker.1panel.live",
    "https://docker.mirrors.ustc.edu.cn",
    "https://registry.docker-cn.com"
  ]

RAGflow下载与知识库构建

部署RAGflow的软硬件条件

  • CPU >= 4 核
  • RAM >= 16 GB
  • Disk >= 50 GB
  • Docker >= 24.0.0 & Docker Compose >= v2.26.1
  1. 到github下载ragflow源码(没有git可以直接下载zip压缩包)。下载到本地后解压到全英文路径下。 在这里插入图片描述

  2. 使用docker拉取ragflow远程镜像源。此处需要先修改配置为下载完整版。在拉取的ragflow仓库路径下的docker/.env 文件内的RAGFLOW_IMAGE变量,通过设置RAGFLOW_IMAGE=infiniflow/ragflow:v0.16.0来下载 RAGFlow镜像的 v0.16.0 完整发行版。

在这里插入图片描述

在这里插入图片描述
在ragflow-main文件夹(你压缩包里的文件夹的名字)下打开cmd窗口运行以下命令:

bash

代码解读
复制代码docker compose -f docker/docker-compose.yml up -d   

\3. 打开浏览器,进入到本地的ragflow,注册账号进行登录

在这里插入图片描述
4. 点击右上角头像,在模型提供商中添加我们本地部署的deepseek模型。注意模型的名称要和ollama官网名称完全一致在系统设置中配置Chat模型(deepseek)和Embedding模型(RAGFlow自带的) 在这里插入图片描述

现在就可以按需创建知识库,上传解析文件了。之后创建聊天助手(注意prompt和tokens的配置)就能开始对话了

如何零基础入门 / 学习AI大模型?

大模型时代,火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业?”“谁的饭碗又将不保了?”等问题热议不断。

不如成为「掌握AI工具的技术人」,毕竟AI时代,谁先尝试,谁就能占得先机!

想正式转到一些新兴的 AI 行业,不仅需要系统的学习AI大模型。同时也要跟已有的技能结合,辅助编程提效,或上手实操应用,增加自己的职场竞争力。

但是LLM相关的内容很多,现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学,学习成本和门槛很高

那么我作为一名热心肠的互联网老兵,我意识到有很多经验和知识值得分享给大家,希望可以帮助到更多学习大模型的人!至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

👉 福利来袭CSDN大礼包:《2025最全AI大模型学习资源包》免费分享,安全可点 👈

全套AGI大模型学习大纲+路线

AI大模型时代的学习之旅:从基础到前沿,掌握人工智能的核心技能!

read-normal-img

640套AI大模型报告合集

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

👉学会后的收获:👈
基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

👉 福利来袭CSDN大礼包:《2025最全AI大模型学习资源包》免费分享,安全可点 👈

img

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

作为普通人,入局大模型时代需要持续学习和实践,不断提高自己的技能和认知水平,同时也需要有责任感和伦理意识,为人工智能的健康发展贡献力量。

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐