本地部署DeepSeek

如果你也遇到DeepSeek各种卡顿问题,可以按照我这个教程安装一个专属自己的“DeepSeek”。

下载安装

👉首先需要两个工具才能完成DeepSeek-r1的本地部署:

💾Ollama下载:

**Ollama:**https://ollama.com/

👇下载太慢的话直接点这里,我直接上传到飞书了。👇

https://yw55ojhusnq.feishu.cn/wiki/SDnUwigbZipvZHkQn74cJIXUnfc?from=from_copylink

✔访问网站点击Download➡️选择Windows版本继续选择Download➡️下载完成直接安装

考虑到性能问题,推荐Windows运行。本教程也是Windows本地部署教程

💿deepseek-r1模型下载:

**Ollama:**https://ollama.com/

👇下载太慢的话直接点这里,我直接上传到飞书了。👇

https://yw55ojhusnq.feishu.cn/wiki/SDnUwigbZipvZHkQn74cJIXUnfc?from=from_copylink

✔到首页左上角选择Models➡️选择deepseek-r1模型➡️参考硬件表选择对应版本下载

大模型里的 1.5b、7b、8b、671b 中的 “b” 是 “十亿” 的意思,代表模型的参数数量。模型参数越多掌握的知识就越多,理解和处理复杂问题的能力通常越强,但训练和运行所需的计算资源也越多

deepseek-r1版本

硬件需求

备注

1.5b

显卡门槛:GTX1050

硬盘空间预留:5G

笔记本电脑用户首选

(考虑运行后发热降频)

7b

显卡门槛:GTX1660

硬盘空间预留:10G

台式电脑根据显卡自行下载对应版本

比如我的电脑是GTX4060显卡

就下载8b版本本地部署

8b

显卡门槛:GTX3060

硬盘空间预留:15G

14b

显卡门槛:GTX3090

硬盘空间预留:30G

32b

显卡门槛:GTX4090

硬盘空间预留:50G

70b

显卡门槛:两张GTX4090

硬盘空间预留:100G

土豪的选择

最新的50系列显卡我还没有,给不了参考建议。

671b

显卡门槛:八张H100显卡

硬盘空间预留:1000G

⚙deepseek-r1模型安装:

按下Win+R键然后输入CMD➡️粘贴刚才复制的打开然后按回车➡️然后就可以使用了

其实到这一步你已经完成了本地部署,但是考虑到使用体验,推荐再下载一个软件“chatbox”,除了体验更好,他还有一个deepseek官方也没发布的功能,定制专属自己的“智能体”。

界面优化

**chatbox:**https://chatboxai.app/zh

下载及安装配置:

下载安装软件➡️选择本地模型➡️选择Ollama➡️选择安装的模型➡️直接对话

可以参考图片,定制专属自己的智能体后再对话

使用过程中,你觉得他的相应速度慢,输出速度慢,电脑特别卡,那就降低一个版本运行。

智能体搭建(进阶)

然后给到角色预设提示词,就能让AI成为专属你自己的智能体。

最后,分享一下这个算命大师的智能体预设内容(其实这个是在软件里有的,怕大家找不到我就放这了)

你现在是一名专业算命大师神悦,具备以下专业技能:  
  
1. 中国传统命理学知识  
精通生辰八字、紫微斗数、六壬神课等理论和推算方法  
掌握干支、纳音、神煞、流年流月等专业概念  
熟悉八字五行、十神、十二宫位的分析方式  
了解八字与事业、婚姻、健康等生活领域的关系  
2. 占卜预测技能  
熟练掌握六爻、奇门遁甲、太乙神数等占卜技术  
能根据出生时辰和具体问题进行占卜分析  
精通风水学,从居住环境角度提供指导  
3. 西方占星术和血型学知识  
熟悉十二星座性格特征和命运走向  
了解行星在十二宫位的作用和影响,会绘制解读星盘  
4. 掌握血型与性格的对应关系  
结合血型解释求测者的行为模式,分析综合能力  
将血型特征与八字、星象等命理分析结合  
用血型解释求测者的做事风格和应对方式  
注意因人而异,对具体情况保持开放态度  
5. 心理素质和职业操守  
具备心理学知识,善于沟通和倾听  
坚持客观公正原则,不误导他人  
保持谦逊好学态度,不断学习新知识  
重视个人修养,以正能量回应世间

如何系统的去学习大模型LLM ?

大模型时代,火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业?”“谁的饭碗又将不保了?”等问题热议不断。

事实上,抢你饭碗的不是AI,而是会利用AI的人。

科大讯飞、阿里、华为等巨头公司发布AI产品后,很多中小企业也陆续进场!超高年薪,挖掘AI大模型人才! 如今大厂老板们,也更倾向于会AI的人,普通程序员,还有应对的机会吗?

与其焦虑……

不如成为「掌握AI工具的技术人」,毕竟AI时代,谁先尝试,谁就能占得先机!

但是LLM相关的内容很多,现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学,学习成本和门槛很高。

针对所有自学遇到困难的同学们,我帮大家系统梳理大模型学习脉络,将这份 LLM大模型资料 分享出来:包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴,可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁:全网最全《LLM大模型入门+进阶学习资源包》免费分享(安全链接,放心点击)👈

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点,那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套LLM大模型报告合集

这套包含640份报告的合集,涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)

在这里插入图片描述

三、LLM大模型系列视频教程

在这里插入图片描述

四、LLM大模型开源教程(LLaLA/Meta/chatglm/chatgpt)

在这里插入图片描述

LLM大模型学习路线

阶段1:AI大模型时代的基础理解

  • 目标:了解AI大模型的基本概念、发展历程和核心原理。

  • 内容

    • L1.1 人工智能简述与大模型起源
    • L1.2 大模型与通用人工智能
    • L1.3 GPT模型的发展历程
    • L1.4 模型工程
    • L1.4.1 知识大模型
    • L1.4.2 生产大模型
    • L1.4.3 模型工程方法论
    • L1.4.4 模型工程实践
    • L1.5 GPT应用案例

阶段2:AI大模型API应用开发工程

  • 目标:掌握AI大模型API的使用和开发,以及相关的编程技能。

  • 内容

    • L2.1 API接口
    • L2.1.1 OpenAI API接口
    • L2.1.2 Python接口接入
    • L2.1.3 BOT工具类框架
    • L2.1.4 代码示例
    • L2.2 Prompt框架
    • L2.3 流水线工程
    • L2.4 总结与展望

阶段3:AI大模型应用架构实践

  • 目标:深入理解AI大模型的应用架构,并能够进行私有化部署。

  • 内容

    • L3.1 Agent模型框架
    • L3.2 MetaGPT
    • L3.3 ChatGLM
    • L3.4 LLAMA
    • L3.5 其他大模型介绍

阶段4:AI大模型私有化部署

  • 目标:掌握多种AI大模型的私有化部署,包括多模态和特定领域模型。

  • 内容

    • L4.1 模型私有化部署概述
    • L4.2 模型私有化部署的关键技术
    • L4.3 模型私有化部署的实施步骤
    • L4.4 模型私有化部署的应用场景

这份 LLM大模型资料 包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴,可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁:全网最全《LLM大模型入门+进阶学习资源包》免费分享(安全链接,放心点击)👈

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐