
本地部署 DeepSeek-R1 大模型!
DeepSeek R1 模型本地部署以及ollama的models位置修改
一、引言
DeepSeek成立于2023年7月17日,由知名量化资管巨头幻方量化创立。
DeepSeek的初创公司经过技术迭代与升级,发布了全新一代大模型“DeepSeek-V3”,DeepSeek R1 更是直接免费开源
二、介绍
DeepSeek官网 : DeepSeek
DeepSeek开发平台 : DeepSeek Platform
Ollama官方版本 : Ollama
Web UI 控制端 : GitHub - n4ze3m/page-assist: Use your locally running AI models to assist you in your web browsing
三、本地部署
本地部署,我们可以通过Ollama来进行安装
-
Ollama安装
Ollama官方版本 : Ollama
查看本机ollama版本
ollama --version
在官网找到对应版本下载并安装
提示 :
ollama默认是安装到C盘
models 文件夹也是默认在C盘
如果不想将下载的模型放在C盘空间, 请先更改Models的位置(本文中有!!)
安装DeepSeek
命令安装
安装 DeepSeek本地模型通过命令台安装
提示 :
安装速度和网速有关
根据电脑配置,选择下载的版本,并不是越大越好!!!(正常7B就可以)
安装命令
1.5B Qwen DeepSeek R1
ollama run deepseek-r1:1.5b
7B Qwen DeepSeek R1
ollama run deepseek-r1:7b
8B Llama DeepSeek R1
ollama run deepseek-r1:8b
14B Qwen DeepSeek R1
ollama run deepseek-r1:14b
32B Qwen DeepSeek R1
ollama run deepseek-r1:32b
70B Llama DeepSeek R1
ollama run deepseek-r1:70b
-
Web UI 控制端安装
Web UI 控制端 : GitHub - n4ze3m/page-assist: Use your locally running AI models to assist you in your web browsing
为了方便对ollama操作,我们采用的是网页端的UI插件
为了方便可以将插件固定
-
使用测试
当上述操作全部完成后可以在浏览器中打开ollama
四、问题解决
-
ollama 修改models位置
-
需要打开ollama软件下载的位置,一般都在C:\Users\你的用户名\AppData\Local\Programs\Ollama
-
添加环境变量
按住windows+r键 唤出运行窗口,
然后输入:SYSDM.CPL,随后回车
随后选择高级
选择环境变量
随后点击 系统变量的新建
在新建系统变量中
变量名输入 : OLLAMA_MODELS
变量值输入 : 你想要保存的位置 如(D:/ollama/models)
然后确认
提示:不要直接点击叉号退出,一步步点击确认
到此 models位置修改完成
结尾
以上就是本地部署DeepSeek R1的全部教程!!
更多推荐
所有评论(0)