本次安装使用ollama

视频版本:暂时没有

文字版本:如下图

首先在飞牛 OS 设置内开启 SSH,使用 putty 或其它软件登录至飞牛系统

输入飞牛的登录 ip,飞牛 os 的管理员账号,密码,再次输入 sudo -i 命令,再次输入密码进入 root 模式

在部署 DeepSeek 之前,需要安装 Ollama,Ollama 是大型语言模型框架,可以理解为 AI 模型的宿主,在部署 DS 前需要提前安装。

使用 curl 命令 :

curl -fsSL https://ollama.com/install.sh | sh 拉取安装 Ollama

在安装过程中遇到网络报错可以按 ^C 中断,然后重新输入 curl -fsSL https://ollama.com/install.sh | sh 命令安装,直到安装 100% 完成

Ollama 安装完成后如果有提示 No Nvidia or AMDxxx 的是飞牛主机没有独立显示导致的,并不影响使用,可以直接忽略

这时候输入:ollama 命令,出现这 commands 提示就可以了

接下来就是安装 DeepSeek,具体版本如图,教程演示的是 1.5b 版本,常用最多的是 7b 版本。版本越高存储需求越大,对整机性能要求越高。

使用 Ollama 命令部署 ds:ollama run deepseek-r1:1.5b (如果需要 7b 版本只要把 1.5b 改为 7b 即可)

等待安装完成会提示发送信息时,说明 DeepSeek 部署 ok,可以使用了

任意测试了一下,1.5b 版本速度较快,但运行结果一般。7b 版本速度和推演结果比较适中。

以上多个版本都可以使用 Ollama 安装,如果存在多个安装版本时,使用 Ollama list 查看

选择某个版本使用如:ollama run deepseek-r1:7b

小提示:中止运算 Ctrl+C,退出 DeepSeek Ctrl+D

附件各版本文字说明:

版本:1.5b,适用于一般文字编辑使用(需要 1.1GB 空余空间)

ollama run deepseek-r1:1.5b

————————————————

版本:7b,DS 第一代推理模型,性能与 OpenAl-01 相当,包括从基于 Llama 和 Qwen 的 DeepSeek-R1 中提取的六个密集模型(需要 4.7GB 空余空间)

ollama run deepseek-r1:7b

版本:8b,(需要 4.9GB 空余空间)

ollama run deepseek-r1:8b

版本:14b,(需要 9GB 空余空间)

ollama run deepseek-r1:14b

版本:32b,(需要 20GB 空余空间)

ollama run deepseek-r1:32b

版本:70b,(需要 43GB 空余空间)

ollama run deepseek-r1:70b

版本:671b,(需要 404GB 空余空间)

ollama run deepseek-r1:671b

因为硬件的资源有限,本人安装7B 

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐