大模型相关问题

1:第一章 本地部署deepseek时,ollama拉取模型报错Error: pull model manifest: 500: {“errors”:[{“code”:“INTERNAL_ERROR”,“message”:“internal error”}]}



前言

今天在拉取ollama模型时首先出现了以下错误:

Error: max retries exceeded: EOF

我又重新拉取,出现下面的报错:

pulling manifest
Error: pull model manifest: 500: {"errors":[{"code":"INTERNAL_ERROR","message":"internal error"}]}

一、处理思路

刚开始的时候我用梯子和不用梯子都可以下载,所以首先排除使用梯子的问题,接着按照网络上搜索的处理方法依次尝试。

二、处理步骤

1:修改防火墙和网络保护

这个我试过之后没效果。

2:清除ollama缓存

代码如下(示例):

ollama rm <model name>

例如,如果要删除名为 deepseek-r1:1.5b 的模型缓存
就输入 ollama rm deepseek-r1:1.5b
结果:

Error: model 'deepseek-r1:1.5b' not found

我查看对应文件目录下也没有内容,C:\Users\用户名.ollama\models\blobs

(我也不知道为啥没有,难道是下载一半,断了之后,自动清除?)


3:重启ollama服务

两种方法:
1:先停止后重启,期间可查看已安装的模型是否停止。

停止ollama服务

sudo systemctl stop ollama

检查已安装的模型是否停止(拓展)

ollama run <model name>

启用ollama服务

sudo systemctl start ollama

2:直接重启

重启ollama服务

sudo systemctl restart ollama.service

但是出现以下错误:

已在此计算机上禁用 Sudo。若要启用它,请转到 Developer Settings page“设置”应用中的

我当时没注意这个报错,想着电脑重启一下ollama也就自动重启了,所以我把重启重启了,但是有试过之后还不行.
查阅资料发现:

  • Ollama服务:Ollama在不同系统中没有设置为随电脑开机自动启动的情况下,电脑重启后需要手动启动。如在Windows系统中需从开始菜单启动Ollama应用程序;Linux系统中若以systemd服务形式运行,需执行 systemctl start ollama 命令启动。
  • Ollama缓存:电脑重启不会自动清除Ollama缓存。Ollama的缓存文件存储在特定目录下,如Linux系统中默认在 /usr/share/ollama/.ollama/models ,macOS和Windows也有各自默认路径,系统重启不会主动清理该目录下的缓存文件。

于是我回过头在设置中把sudo启用。
在这里插入图片描述
把sudo启用之后,我都没重启ollama服务,就直接下载成功了(我也不太理解,按理说应该重启一下才行的)。

三、总结

重启ollama!!!、重启ollama!!!、重启ollama!!!
重要的事情说三遍

点击阅读全文
Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐