离线部署DeepSeek
整体思路一、Windows 上网机:下载所有离线文件你只需要在 Win10/11 下好这两类东西,服务器全程不用联网。Ollama 官方提供 Linux aarch64 离线二进制包,不要用 curl 安装(内网用不了)。下载地址(直接复制到浏览器打开):下载后得到一个文件:ollama-linux-arm64 (无后缀)你需要先在 Windows 上装 Ollama,拉取模型后导出成离线文件,再
整体思路
- Windows 电脑(能上网):下载好 Ollama ARM Linux 离线包 + DeepSeek 模型离线文件
- 用光盘刻录机把所有文件刻进光盘
- 银河麒麟 ARM 服务器(内网):挂载光盘 → 安装 Ollama → 导入模型 → 运行
一、Windows 上网机:下载所有离线文件
你只需要在 Win10/11 下好这两类东西,服务器全程不用联网。
- 下载 Ollama(ARM64 Linux 版,银河麒麟专用)
Ollama 官方提供 Linux aarch64 离线二进制包,不要用 curl 安装(内网用不了)。
下载地址(直接复制到浏览器打开):
https://ollama.com/install/linux/arm64
下载后得到一个文件:
ollama-linux-arm64 (无后缀)
- 下载并导出 DeepSeek 模型(离线文件)
你需要先在 Windows 上装 Ollama,拉取模型后导出成离线文件,再刻盘。
① Windows 安装 Ollama
官网下载 Windows 版:https://ollama.com/download/windows
安装后打开 cmd / PowerShell。
② 拉取 DeepSeek 模型
常用两个,你选需要的:
通用对话(推荐)
ollama pull deepseek-r1:7b# 代码模型ollama pull deepseek-coder:6.7b
③ 导出模型为离线文件
在 Windows 中执行,导出成 .gguf 或模型包:
导出模型(名字和上面pull的一致)
ollama save deepseek-r1:7b D:\deepseek-r1-7b.model
导出后你会得到:
deepseek-r1-7b.model (模型离线包)
把 ollama-linux-arm64 + deepseek-r1-7b.model 都放同一个文件夹。
二、刻录到光盘
用你的光盘刻录机,把 Windows 上的这两个文件:
- ollama-linux-arm64
- deepseek-r1-7b.model
直接数据刻录到光盘即可。
(不需要启动盘,普通数据光盘就行)
三、银河麒麟 ARM 服务器:部署(核心步骤)
把刻好的光盘插入服务器,执行以下命令。
- 挂载光盘
银河麒麟/麒麟系通用挂载命令:
创建挂载目录
sudo mkdir -p /mnt/cdrom# 挂载光盘sudo mount /dev/cdrom /mnt/cdrom
查看文件是否在:
ls /mnt/cdrom
能看到 ollama-linux-arm64 和 deepseek-r1-7b.model 就对了。
- 安装 Ollama(离线)
复制到系统执行目录
sudo cp /mnt/cdrom/ollama-linux-arm64 /usr/local/bin/ollama# 加执行权限sudo chmod +x /usr/local/bin/ollama
验证是否安装成功:
ollama --version
出版本号就成功。
- 导入 DeepSeek 离线模型
导入模型
ollama load deepseek-r1:7b /mnt/cdrom/deepseek-r1-7b.model
- 启动 Ollama 服务
后台启动(推荐)
ollama serve &
- 运行 DeepSeek
新开一个终端:
ollama run deepseek-r1:7b
出现 >>> 就可以直接聊天了。
更多推荐



所有评论(0)