超级保姆教程,WIN10系统,使用ollama部署deepseek-r1,及修改模型下载位置
超级保姆教程,WIN10系统,使用ollama部署deepseek-r1,及修改模型下载位置,避免安装在C盘
·
超级保姆教程,WIN10系统,使用ollama部署deepseek-r1,及修改模型下载位置
一、环境介绍
- 机器操作系统win10专业版
- 处理器Intel Core i7-10750H CPU 2.60GHz
- 显卡NVIDIA GeForce RTX 2060,16G内存
二、总体安装流程介绍
- 下载ollama,ollama是什么,能干什么不做过多介绍,有兴趣可以找相关资料学习。这里提供一下下载地址:https://ollama.com/download。
- ollama安装与环境变量修改,因为ollama会默认安装到C盘,也会将模型下载在C盘,所以这里在安装时需要指定安装路径,并且要修改环境变量来保证模型下载到指定位置而不是C盘。(如果不在乎C盘使用,可以忽略配置环境变量步骤)
- 模型下载与启动,以及简单使用
- 总结
三、ollama安装与环境变量修改
下面的步骤请参考我安装时的路径设置来配置你自己的安装路径。
-
使用命令来安装,切换到ollama安装文件的位置,使用命令安装并指定安装路径来安装,等待安装完成即可。安装完后默认为启动状态。
-
验证一下安装是否成功
第一种验证方式
第二种验证方式,会占用本地11434的端口 -
找到安装路径,新建一个models文件,这个文件用来保存下载的模型。(不在乎C盘空间可以忽略3 4 5 6 步骤)
-
新建环境变量,按照图示步骤,新建一个OLLAMA_MODELS的环境变量,变量名一定要大写,值为保存模型文件的路径。
-
在path路径下新建ollama安装路径的环境变量,这个配置主要用来在默认打开cmd时可以使用ollama。
-
安装完成后,重启一下电脑让环境变量生效。
四、模型下载与启动
-
在官网搜索deepsek,并选择合适自己机器的模型。
复制命令后在cmd窗口执行,会进入模型下载过程,模型下载完成后即可开启对话。 -
查看模型下载位置
证明前面设置的环境变量已经生效。 -
验证模型与开启对话
-
关闭对话
总结
以上为全部搭建过程。搭建这个环境主要是用来做一些开发工作,毕竟gpt-4以及现在的deepseek申请使用api-key已经收费了。后面还会更新使用langchain+deepseek做一些简单的开发工作。
福利
这篇文章讲了如何在这个环境的基础上搭建一套开发环境,不需要申请api-key去开发,直接使用本地环境,也是我搭建的,请参考:基于ollama本地部署的deepseek模型,使用langchain搭建python开发环境
更多推荐
所有评论(0)