超级保姆教程,WIN10系统,使用ollama部署deepseek-r1,及修改模型下载位置

一、环境介绍

  1. 机器操作系统win10专业版
  2. 处理器Intel Core i7-10750H CPU 2.60GHz
  3. 显卡NVIDIA GeForce RTX 2060,16G内存

二、总体安装流程介绍

  1. 下载ollama,ollama是什么,能干什么不做过多介绍,有兴趣可以找相关资料学习。这里提供一下下载地址:https://ollama.com/download。
  2. ollama安装与环境变量修改,因为ollama会默认安装到C盘,也会将模型下载在C盘,所以这里在安装时需要指定安装路径,并且要修改环境变量来保证模型下载到指定位置而不是C盘。(如果不在乎C盘使用,可以忽略配置环境变量步骤)
  3. 模型下载与启动,以及简单使用
  4. 总结

三、ollama安装与环境变量修改

下面的步骤请参考我安装时的路径设置来配置你自己的安装路径。

  1. 使用命令来安装,切换到ollama安装文件的位置,使用命令安装并指定安装路径来安装,等待安装完成即可。安装完后默认为启动状态。
    在这里插入图片描述

  2. 验证一下安装是否成功
    第一种验证方式
    在这里插入图片描述
    第二种验证方式,会占用本地11434的端口
    在这里插入图片描述

  3. 找到安装路径,新建一个models文件,这个文件用来保存下载的模型。(不在乎C盘空间可以忽略3 4 5 6 步骤)
    在这里插入图片描述

  4. 新建环境变量,按照图示步骤,新建一个OLLAMA_MODELS的环境变量,变量名一定要大写,值为保存模型文件的路径。
    在这里插入图片描述

  5. 在path路径下新建ollama安装路径的环境变量,这个配置主要用来在默认打开cmd时可以使用ollama。
    在这里插入图片描述

  6. 安装完成后,重启一下电脑让环境变量生效。

四、模型下载与启动

  1. 在官网搜索deepsek,并选择合适自己机器的模型。
    在这里插入图片描述
    复制命令后在cmd窗口执行,会进入模型下载过程,模型下载完成后即可开启对话。

  2. 查看模型下载位置
    在这里插入图片描述
    证明前面设置的环境变量已经生效。

  3. 验证模型与开启对话
    在这里插入图片描述

  4. 关闭对话
    在这里插入图片描述

总结

以上为全部搭建过程。搭建这个环境主要是用来做一些开发工作,毕竟gpt-4以及现在的deepseek申请使用api-key已经收费了。后面还会更新使用langchain+deepseek做一些简单的开发工作。

福利

这篇文章讲了如何在这个环境的基础上搭建一套开发环境,不需要申请api-key去开发,直接使用本地环境,也是我搭建的,请参考:基于ollama本地部署的deepseek模型,使用langchain搭建python开发环境

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐