
飞牛NAS系统部署安装DeepSeek AI人工智能
版本:7b,DS 第一代推理模型,性能与 OpenAl-01 相当,包括从基于 Llama 和 Qwen 的 DeepSeek-R1 中提取的六个密集模型(需要 4.7GB 空余空间)在部署 DeepSeek 之前,需要安装 Ollama,Ollama 是大型语言模型框架,可以理解为 AI 模型的宿主,在部署 DS 前需要提前安装。接下来就是安装 DeepSeek,具体版本如图,教程演示的是 1.
本次安装使用ollama
视频版本:暂时没有
文字版本:如下图
首先在飞牛 OS 设置内开启 SSH,使用 putty 或其它软件登录至飞牛系统
输入飞牛的登录 ip,飞牛 os 的管理员账号,密码,再次输入 sudo -i 命令,再次输入密码进入 root 模式
在部署 DeepSeek 之前,需要安装 Ollama,Ollama 是大型语言模型框架,可以理解为 AI 模型的宿主,在部署 DS 前需要提前安装。
使用 curl 命令 :
curl -fsSL https://ollama.com/install.sh | sh 拉取安装 Ollama
在安装过程中遇到网络报错可以按 ^C 中断,然后重新输入 curl -fsSL https://ollama.com/install.sh | sh 命令安装,直到安装 100% 完成
Ollama 安装完成后如果有提示 No Nvidia or AMDxxx 的是飞牛主机没有独立显示导致的,并不影响使用,可以直接忽略
这时候输入:ollama 命令,出现这 commands 提示就可以了
接下来就是安装 DeepSeek,具体版本如图,教程演示的是 1.5b 版本,常用最多的是 7b 版本。版本越高存储需求越大,对整机性能要求越高。
使用 Ollama 命令部署 ds:ollama run deepseek-r1:1.5b (如果需要 7b 版本只要把 1.5b 改为 7b 即可)
等待安装完成会提示发送信息时,说明 DeepSeek 部署 ok,可以使用了
任意测试了一下,1.5b 版本速度较快,但运行结果一般。7b 版本速度和推演结果比较适中。
以上多个版本都可以使用 Ollama 安装,如果存在多个安装版本时,使用 Ollama list 查看
选择某个版本使用如:ollama run deepseek-r1:7b
小提示:中止运算 Ctrl+C,退出 DeepSeek Ctrl+D
附件各版本文字说明:
版本:1.5b,适用于一般文字编辑使用(需要 1.1GB 空余空间)
ollama run deepseek-r1:1.5b
————————————————
版本:7b,DS 第一代推理模型,性能与 OpenAl-01 相当,包括从基于 Llama 和 Qwen 的 DeepSeek-R1 中提取的六个密集模型(需要 4.7GB 空余空间)
ollama run deepseek-r1:7b
版本:8b,(需要 4.9GB 空余空间)
ollama run deepseek-r1:8b
版本:14b,(需要 9GB 空余空间)
ollama run deepseek-r1:14b
版本:32b,(需要 20GB 空余空间)
ollama run deepseek-r1:32b
版本:70b,(需要 43GB 空余空间)
ollama run deepseek-r1:70b
版本:671b,(需要 404GB 空余空间)
ollama run deepseek-r1:671b
因为硬件的资源有限,本人安装7B
更多推荐
所有评论(0)