本地部署

ollama 下载Ollama

ollama支持的模型:Ollama Search

直接下载,发现默认是下载C盘,并且不能选择安装目录,这对我C盘的压力太大了。

查阅资料:发现可以修改

参考将Ollama安装到非C盘路径_ollama不安装在c盘-CSDN博客

参考 [handy-ollama/docs/C2/2. Ollama 在 Windows 下的安装与配置.md at main · datawhalechina/handy-ollama](https://github.com/datawhalechina/handy-ollama/blob/main/docs/C2/2. Ollama 在 Windows 下的安装与配置.md)

具体步骤如下

步骤1: 下载ollamaollama 下载Ollama

步骤2:新建文件夹用于存储ollama应用,并且将安装程序移动到该位置

比如: E/ollama

步骤3:在此目录下:启动安装程序 OllamaSetup.exe /DIR=E:\ollama

执行

弹出如图下载页面,看出安装在我们指定的位置E/ollama

验证是否安装成功

ollama -v

安装成功。

下载模型:Ollama Search

选个小模型吧

现在过程中发现,模型下载到C盘了

更改模型的下载位置

具体操作

新建一个存放的文件

比如 E:\ollamaModels

配置系统环境变量

OLLAMA_MODELS

指向上述位置

下载太慢的解决方法,如果发现一开始下载块,之后越来越慢,可以CTRL + C 取消下载,然后重新执行下载指令

真的有用:

可以在该控制台对话了


有效的更新:大模型知识
https://github.com/hnsqls/shuo-ai

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐