前言

DeepSeek系列模型在去年12月发布以来引起了不少关注，而推理模型R1的发布则进一步点燃了国内外用户的热情。鉴于仍有不少用户完全没有使用经验，而网上现有的信息可能比较零碎，反而会导致初学者更加困惑。因此本文整理了DeepSeek系列模型的基本说明和一些使用方法，此外还提供了一个第三方客户端的安装教程，用于让初学者也能用上国产最强大的推理模型。

本地环境使用

原始模型权重

原始模型权重在HF上开源，可免费下载。R1模型大小有671B参数，使用默认的半精度加载，至少需要1300GB以上的显存，如果使用4-bit进行量化，理论上也需要300GB以上的显存。与V3类似，R1也不支持使用transformers库进行加载推理，建议使用vLLM进行推理部署。

本地部署R1模型的一种方案，使用了7台M4 Pro Mac Mini + 1台M4 Max MacBook Pro堆叠统一内存，4-bit量化后仍需要近500GB的显存。

此外，DeepSeek团队使用Qwen2.5和Llama3.3蒸馏了6款模型，包含1.5B～70B在内共有6个尺寸。

Ollama

使用Ollama进行R1系列模型的本地部署是比较简单的方法，只需下载Ollama程序即可，但是模型均进行了量化。支持官方蒸馏的6款模型和原始671B的R1模型。所有模型均使用4-bit进行量化，最少仅需要1.1G的显存，推荐使用14B模型，需要9G显存，可在消费级显卡上进行部署。

客户端使用

官方支持网页端和手机APP使用DeepSeek系列模型，选择「深度思考(R1)」则会使用R1推理模型，不选择则使用V3对话模型。需要注意目前联网搜索功能暂不可用。

网页端

手机APP

应用商店搜索「DeepSeek」即可下载，安装包仅不到10M，比起其他动辄几十、几百M的智能助手显得太过格格不入了。

API

官方API

由于访问量太大以及恶意攻击，目前官方的API服务暂时还没有恢复。

国内API平台

硅基流动联合华为推出了基于910B系列芯片的推理服务，新用户注册即送2000万Tokens(相当于14元额度)。

官网注册地址：https://cloud.siliconflow.cn/i/7M9W6SG1

注册后点击「API密钥」菜单，接着点击「新建API密钥」即可创建API密钥，点击可复制密钥。

第三方客户端

对于编程目的或者软件开发者使用，有Cursor，WindSurf、v0等这些编程助手，而对于一般用户而言，推荐使用ChatBox或者Cherry Studio等这类开源的客户端软件，不需要进行环境设置或者运行程序。

Cherry Studio客户端下载地址：https://cherry-ai.com/

以下以Cherry Studio为例，展示如何接入硅基流动的API，使用R1模型。

选择模型服务商「硅基流动」，填入从硅基流动官网复制的API密钥。

经过实测，一轮简单对话约消耗3000tokens，相当于0.03元的额度。

---

如何学习AI大模型？

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

👉学会后的收获：👈
• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集

👉获取方式：
😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓