1 概述

1.1 配置参考图

在这里插入图片描述

科普:
B,Billion(十亿),是 “参数量” 的单位。
模型量超过 一亿,可称之为 “大模型”。

2 软件安装

2.1 下载 Ollama

2.1.1 修改默认安装路径

  • 等待浏览器下载文件 "OllamaSetup.exe",请注意,默认安装 C 盘,建议修改,如:安装至 "D:\04 工具\DeepSeek\ollama"
> cd [ollamaSetup.exe 所在位置]
> 
> ollamaSetup.exe /DIR="D:\04 工具\DeepSeek\ollama"
  • 下载完成之后,通过快捷键 Win + R,打开运行窗口,输入查询版本命令(如下),若有以下提示,则表示安装成功。
> ollama -v

在这里插入图片描述

2.1.2 修改环境变量

  • 若想其他电脑也能远程访问 DeepSeek,就需要修改下列环境变量。
  • 使用场景:将 DeepSeek 部署至本地服务器上,然后通过 PC 去访问。
变量 说明
OLLAMA_HOST 0.0.0.0 ollama 服务器监听的网络地址
OLLAMA_ORIGINS * 客户端的请求来源
OLLAMA_MODELS D:\04 工具\DeepSeek\models DeepSeek 安装位置
以下选项
OLLAMA_NUM_PARALLEL 1 表示请求处理的并发数量,默认 1
OLLAMA_KEEP_ALIVE 5m 表示大模型加载到内存中后的存活时间,默认 5m,即 5 分钟。若想一直存在,可设置为 24h,提供访问速度

在这里插入图片描述

2.2 下载 DeepSeek

  • 下载指定版本的 DeepSeek,如 14b
> ollama run deepseek-r1:14b

在这里插入图片描述

图片是deepseek-r1:32 版本,14b 版本同理,此处仅展示下载的效果

2.3 运行 DeepSeek

  • 和下载 DeepSeek 的命令相同(存在 → 运行,不存在 → 下载)
> ollama run deepseek-r1:14b

在这里插入图片描述

2.4 界面展示 DeepSeek

2.4.1 下载 ChatBox

在这里插入图片描述

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐