整体思路

  1. Windows 电脑(能上网):下载好 Ollama ARM Linux 离线包 + DeepSeek 模型离线文件
  2. 用光盘刻录机把所有文件刻进光盘
  3. 银河麒麟 ARM 服务器(内网):挂载光盘 → 安装 Ollama → 导入模型 → 运行

一、Windows 上网机:下载所有离线文件

你只需要在 Win10/11 下好这两类东西,服务器全程不用联网。

  1. 下载 Ollama(ARM64 Linux 版,银河麒麟专用)

Ollama 官方提供 Linux aarch64 离线二进制包,不要用 curl 安装(内网用不了)。
下载地址(直接复制到浏览器打开):
https://ollama.com/install/linux/arm64

下载后得到一个文件:
ollama-linux-arm64 (无后缀)

  1. 下载并导出 DeepSeek 模型(离线文件)

你需要先在 Windows 上装 Ollama,拉取模型后导出成离线文件,再刻盘。

① Windows 安装 Ollama

官网下载 Windows 版:https://ollama.com/download/windows
安装后打开 cmd / PowerShell。

② 拉取 DeepSeek 模型

常用两个,你选需要的:

通用对话(推荐)

ollama pull deepseek-r1:7b# 代码模型ollama pull deepseek-coder:6.7b

③ 导出模型为离线文件

在 Windows 中执行,导出成 .gguf 或模型包:

导出模型(名字和上面pull的一致)

ollama save deepseek-r1:7b D:\deepseek-r1-7b.model

导出后你会得到:
deepseek-r1-7b.model (模型离线包)

把 ollama-linux-arm64 + deepseek-r1-7b.model 都放同一个文件夹。

二、刻录到光盘

用你的光盘刻录机,把 Windows 上的这两个文件:

  • ollama-linux-arm64
  • deepseek-r1-7b.model

直接数据刻录到光盘即可。
(不需要启动盘,普通数据光盘就行)

三、银河麒麟 ARM 服务器:部署(核心步骤)

把刻好的光盘插入服务器,执行以下命令。

  1. 挂载光盘

银河麒麟/麒麟系通用挂载命令:

创建挂载目录

sudo mkdir -p /mnt/cdrom# 挂载光盘sudo mount /dev/cdrom /mnt/cdrom

查看文件是否在:

ls /mnt/cdrom

能看到 ollama-linux-arm64 和 deepseek-r1-7b.model 就对了。

  1. 安装 Ollama(离线)

复制到系统执行目录

sudo cp /mnt/cdrom/ollama-linux-arm64 /usr/local/bin/ollama# 加执行权限sudo chmod +x /usr/local/bin/ollama

验证是否安装成功:
ollama --version

出版本号就成功。

  1. 导入 DeepSeek 离线模型

导入模型

ollama load deepseek-r1:7b /mnt/cdrom/deepseek-r1-7b.model

  1. 启动 Ollama 服务

后台启动(推荐)

ollama serve &

  1. 运行 DeepSeek

新开一个终端:
ollama run deepseek-r1:7b

出现 >>> 就可以直接聊天了。

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐