关于离线电脑利用Ollama安装deepseek
关于离线电脑利用Ollama安装deepseek
一、安装Ollama
网络可行可直接上官网下载 Ollama
不可行的话可以百度网盘下载安装包
链接: https://pan.baidu.com/s/1dVA1Gkmte6Htv1YeViohbg 提取码: 9cp9
1.1修改Ollama安装路径
安装包默认安装到C盘
本文将安装包下载至E盘,并打算安装Ollama至D盘,可以在安装前创建Ollama文件夹(D:\Ollama),并在安装包放置的路径下打开cmd


输入:OllamaSetup.exe /DIR=D:\Ollama
Ollama会自动安装到该路径下
1.2修改模型安装路径
安装成功后,在D:\Ollama下,创建models文件夹,并增加用户变量,变量:OLLAMA_MODELS,值:D:\Ollama\models

二、离线安装deepseek
离线安装deepseek,需要先从联网电脑上下载好deepseek模型,.ollama\models\blobs路径下,找到最大的文件,复制出来修改名字为deepseek-r1-7b.gguf(本文下载的是7b版模型),跟ModelFile(也是模型自带的)放在同一个目录下,用记事本打开,修改FROM后的路径,同目录下为 ./deepseek-r1-7b.gguf
PS:gguf文件较大,无法上传至网盘,就不分享了 sorry~~


在该目录下打开cmd,输入ollama create deepseek-r1-7b -f ./Modelfile(安装deepseek前打开Ollama)


运行结束会出现success提示,可利用ollama list查看安装的模型


运行deepseek模型:输入ollama run deepseek-r1-7b
三、安装可视化界面
本文将Chatbox安装到D盘
链接: https://pan.baidu.com/s/19NayGJ_OOpU2zaQVb_eDPg 提取码: nvu8

打开Chatbox,修改设置,选择Ollama以及deepseek模型


配置完成!
PS:使用过程中,发现GPU基本上没跑,都是CPU在运行,回复很卡顿,后续打算安装CUDA和CUDNN尝试一下~~
参考来源:
更多推荐



所有评论(0)