上一篇链接:在树莓派4b上部署deepseek(一)-学着玩(折腾)树莓派-CSDN博客

上一篇的补充基础:

树莓派的系统是基于debian的;安装新的东西一般需要输入这两行执行一下

sudo apt update
sudo apt upgrade

二.软件准备

1.ollama的下载与安装

困扰了我很久的地方也在这里,ollama下载可以在树莓派内部火狐浏览器,也可以在自己的电脑下载,我手边有一个移动硬盘刚好可以进行资料传输,所以就把这个流程记下来

树莓派下载安装ollama的时候,官网那些似乎可以用,但实际上容易踩雷,一定要查一下系统架构!

在终端输入

uname -m

下面aarch64是ARM架构,所以下载安装包的时候要找ARM的,没有科学上网的情况下电脑登陆官网下载特别慢,我在这里分个流(百度网盘)

通过网盘分享的文件：ollama-linux-arm64.tgz
链接: https://pan.baidu.com/s/1GsgpZ7uuj68GR-CMN-tXNg 提取码: stvj 

下载好之后可以拿出自己的移动硬盘,放在里面之后,移动硬盘插入树莓派里,

在你的硬盘里找到安装包然后把它用鼠标拉到你的树莓派桌面上,这是可行的,信我

之后在终端上输入解压压缩包并安装的命令(因为在桌面上)

sudo tar -C /usr -xzf /home/pi/Desktop/ollama-linux-amd64.tgz

/pi那个位置改成设置好的树莓派用户名,输入之后终端会没反应,已经是在运行中了耐心等待就好,千万别解压第二遍!

没有报错的话输入ollama serve命令进行测试

ollama serve

 这句直接启动ollama的服务器

这样就是解压又启动成功了,目前这个终端就可以视作服务器在运行,所以新开一个终端窗口,这个窗口不要关闭

2.系统服务文件 

输入以下命令来创建一个系统服务文件

sudo nano /etc/systemd/system/ollama.service

里面添加[unit]和[service]

其中unit那三行第一行是描述服务内容,第二行是网络就绪后就可以启动服务,第三行是限制服务在300秒内频繁重启

下面是[service]的注释

[Service]
User=ollama      #指定服务以ollama组和用户运行
Group=ollama
ExecStart=/usr/local/bin/ollama serve    #启动Ollama服务进程
WorkingDirectory=/mnt/external_storage/ollama_models   #设置服务的模型存储目录路径

MemoryHigh=3G  #内存限制最高3个G
MemoryMax=4G   #硬性上线最高4个G
CPUQuota=90%   #服务最多使用90%的CPU资源
Restart=always   
RestartSec=30   #这俩句是服务如果崩溃了30秒后自动重启
TimeoutStopSec=180   #等待180秒视为超时

剩下的编辑完之后按下ctrl+O保存,ctrl+X退出编辑界面回到终端

可以查一下自己的ollama版本

3.拉取模型

登录ollama官网进入models

选择1.5b

 

(之前说的输入ollama serve后的终端没关闭吧,该轮到他上场了)在新的树莓派终端内输入红框圈起来的那句命令

ollama run deepseek-r1:1.5b

就已经开始运行了

用中文输入法问他你是谁他就会回答你.

如果你想看下你在板子里都安装了什么版本的deepseek模型可以输入

ollama list

三.小结

   当时做的时候还真的挺困难因为linux真是快忘得差不多了,有点苦手,ollama下载和安装那里就卡了两天因为网络问题(菜),有一些很小很基础的东西可能我忘记说了.走了很多很多弯路,试过很多系统都觉得有这样那样的毛病:试过老版的原生系统,新版的原生系统和ubantu的新版和老版,个人觉得如果你没有其它需求新版的原生真的就够用,技术不行不能赖系统对吧.1.5b真实小智障,可能未来会入派5来新增模型感受一下算力增强的感觉.