
公司数据不泄露,DeepSeek R1本地化部署+web端访问+个人知识库搭建与使用,喂饭级实操教程,老旧笔记本竟跑出企业级AI
公司数据不泄露,DeepSeek R1本地化部署+web端访问+个人知识库搭建与使用,喂饭级实操教程,老旧笔记本竟跑出企业级AI
前言
1 Ollama PC本地化部署
1.1 下载Ollama
https://ollama.com/
目前Ollama支持macOS、Linux、Windows,选择相应的系统,macOS和Windows直接下载,Linux系统需要执行下面命令:
curl -fsSL https://ollama.com/install.sh | sh |
这次选择Windows本地下载,直接安装即可。
1.2 选择模型
点击Models,第一条就是deepseek-r1模型。或者搜索框输入模型名称进行搜索。
点击进去后,查看各个模型,不同模型执行的命令不同,最后部分看你选择的参数模型。
7b命令:ollama run deepseek-r1:7b
1.5b命令:ollama run deepseek-r1:1.5b
DeepSeek R1提供多个版本,参数量越大,模型通常越强大,但也需要更多的计算资源。
比如1.5B代表有15亿个参数。
具体选择哪一个看你硬件设备了。
1.3 运行命令
小编用的电脑配置不高,选了1.5b。如果你配置高,可以选择更大的,毕竟越大效果越好。
1.4 效果测试
当界面出现success显示安装成功。
输入你是谁,看到deepseek的回答。
实操演示视频:
2 DeepSeek+Chatbox网页端
本地命令行使用还是不太直观,可以选择Chatbox进行网页端访问,提高可交互性。
Chatbox AI 是一款 AI 客户端应用和智能助手,支持众多先进的 AI 模型和 API,可在 Windows、MacOS、Android、iOS、Linux 和网页版上使用。
本地使用Ollama部署完成后,可以使用Chatbox进行调用。
根据官方文档给出的步骤进行配置
https://chatboxai.app/zh/help-center/connect-chatbox-remote-ollama-service-guide
2.1 环境变量配置
默认情况下,Ollama 服务仅在本地运行,不对外提供服务。
要使 Ollama 服务能够对外提供服务,你需要设置以下两个环境变量:
OLLAMA_HOST:0.0.0.0
OLLAMA_ORIGINS:*
在 Windows 上,Ollama 会继承你的用户和系统环境变量。
1、通过任务栏退出 Ollama。
2、打开设置(Windows 11)或控制面板(Windows 10),并搜索“环境变量”。
3、点击编辑你账户的环境变量。
4、为你的用户账户编辑或创建新的变量 OLLAMA_HOST,值为 0.0.0.0; 为你的用户账户编辑或创建新的变量 OLLAMA_ORIGINS,值为 *。
5、点击确定/应用以保存设置。
6、从 Windows 开始菜单启动 Ollama 应用程序。
2.2 chatbox设置
1、打开官网:https://chatboxai.app/zh,选择启动网页版。
2、选择本地模型,如果找不到,点击左侧的设置按钮。
3、选择Ollama API。
4、选择模型,本地运行Ollama后会自动出现模型的选项,直接选择即可。
5、点击DISPLAY,选择简体中文,点击保存按钮。
6、在聊天窗口输入问题进行测试。
2.3 搭配GPTs使用
1、点击左侧我的搭档
2、选择一个你喜欢的应用,本示例选择夸夸机2.0
3、随便输入一个场景,看看大模型的回答。比如自嘲、尴尬、夸张的场景,看看他怎么花样夸你。
实操演示视频:
3 DeepSeek知识库搭建
我们还可以通过浏览器插件来访问本地部署的大模型,这个插件还支持本地知识库搭建。
1、安装插件Page Assist,搜索插件后添加至Chrome
2、选择本地搭建的模型,点击配置按钮,设置中文
3、RAG设置,模型选择本地搭建的。
4、点击左侧管理知识,可以添加本地知识库。
填写知识标题及上传文件,点击提交按钮。
状态为已完成就可以使用了。
新建聊天进行测试,在聊天窗口要记得点击右下角知识,选择刚才搭建的知识库名称,然后在上方看到就可以了。
对模型进行测试,看看是否可以根据知识库进行回答。
我问了一下知识库中的《量子纠缠通信:未来通信的革命》 价格是多少?
思考完成后,模型给出了最终答案,价格是299元。
上传知识库内容:为了测试方便,我只输入了5本虚构的书名和价格。
书名及价格: |
跟着小编的操作步骤,就可以在本地成功搭建自己的私有知识库了!
最后的最后
感谢你们的阅读和喜欢,作为一位在一线互联网行业奋斗多年的老兵,我深知在这个瞬息万变的技术领域中,持续学习和进步的重要性。
为了帮助更多热爱技术、渴望成长的朋友,我特别整理了一份涵盖大模型领域的宝贵资料集。
这些资料不仅是我多年积累的心血结晶,也是我在行业一线实战经验的总结。
这些学习资料不仅深入浅出,而且非常实用,让大家系统而高效地掌握AI大模型的各个知识点。如果你愿意花时间沉下心来学习,相信它们一定能为你提供实质性的帮助。
这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费
】

DeepSeek全套安装部署资料
大模型知识脑图
为了成为更好的 AI大模型 开发者,这里为大家提供了总的路线图。它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。
经典书籍阅读
阅读AI大模型经典书籍可以帮助读者提高技术水平,开拓视野,掌握核心技术,提高解决问题的能力,同时也可以借鉴他人的经验。对于想要深入学习AI大模型开发的读者来说,阅读经典书籍是非常有必要的。
实战案例
光学理论是没用的,要学会跟着一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
面试资料
我们学习AI大模型必然是想找到高薪的工作,下面这些面试题都是总结当前最新、最热、最高频的面试题,并且每道题都有详细的答案,面试前刷完这套面试题资料,小小offer,不在话下
640套AI大模型报告合集
这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。
这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费
】

更多推荐
所有评论(0)