最近,一家名叫DeepSeek的初创公司经过技术迭代与升级,发布了全新一代大模型,“DeepSeek-V3”。由于这款大模型太过好用,DeepSeek R1 更是直接免费开源,在AI发烧友圈子传播后,传到了海外社交平台、技术论坛,引发了海外网友的连连称赞。

各项性能指标更是和OpenAI-o1 模型不相上下,甚至做到了小部分的超越,关键是开源的,我们可以本地部署使用

1、本地部署,我们可以通过Ollama来进行安装

Ollama 官方版:点击前往】(下载慢请挂梯子)

Web UI 控制端【点击安装】(挂梯子)

安装命令

1.5B Qwen DeepSeek R1(4G以下显存)

ollama run deepseek-r1:1.5b

7B Qwen DeepSeek R1(4-8G显存)

ollama run deepseek-r1:7b
8B Llama DeepSeek R1(8-12G显存)
ollama run deepseek-r1:8b

14B Qwen DeepSeek R1(后面均要12G以上显存)

ollama run deepseek-r1:14b

32B Qwen DeepSeek R1

ollama run deepseek-r1:32b

70B Llama DeepSeek R1

ollama run deepseek-r1:70b

 2. 更多模型下载

DeepSeek-R1-Distill 模型

模型 基础模型 下载
DeepSeek-R1-Distill-Qwen-1.5B Qwen2.5-Math-1.5B 🤗 HuggingFace
DeepSeek-R1-Distill-Qwen-7B Qwen2.5-Math-7B 🤗 HuggingFace
DeepSeek-R1-Distill-Llama-8B Llama-3.1-8B 🤗 HuggingFace
DeepSeek-R1-Distill-Qwen-14B Qwen2.5-14B 🤗 HuggingFace
DeepSeek-R1-Distill-Qwen-32B Qwen2.5-32B 🤗 HuggingFace
DeepSeek-R1-Distill-Llama-70B Llama-3.3-70B-Instruct 🤗 HuggingFace

DeepSeek-R1-Distill 模型基于开源模型进行了微调,使用了 DeepSeek-R1 生成的样本。我们对其配置和分词器进行了轻微更改。请使用我们的设置来运行这些模型。

DeepSeek-R1 

模型 #总参数 #已激活参数 上下文长度 下载
DeepSeek-R1-Zero 671B 37B 128千 🤗 HuggingFace
DeepSeek-R1 671B 37B 128千 🤗 HuggingFace

DeepSeek-R1-Zero 和 DeepSeek-R1 基于 DeepSeek-V3-Base 进行训练。有关模型架构的更多详细信息,请参阅DeepSeek-V3存储库。 、

3.教程

DeepSeek-R1 最强开源AI大模型!本地部署,完全免费,实力媲美OpenAI-o1| 零度解说_哔哩哔哩_bilibili

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐