一. Ollama简介

Ollama 是一个 本地化的大模型运行工具,可以让你在自己的电脑(比如Mac、Windows、Linux)上直接下载和运行各种开源的大型语言模型(比如 LLaMA 3、Mistral、Gemma 等),而无需依赖互联网或云服务。

二. Ollama安装

首先我们到 Ollama官网 去下载安装包:

https://ollama.com/download/windows​ollama.com/download/windows

如果你下载很慢, 我也提供了免费的百度盘链接地址:

Ollama安装包-windows​www.githubs.xyz/y373.html

此处我们下载的是Windows版本的安装包,如下图所示:

下载完成后,我们先不要双击安装OllamaSetup.exe , 如果你此时直接双击就会默认安装到C盘!

如果你的C盘足够大,也没关系。

安装到指定位置

以管理员身份运行CMD,并定位到OllamaSetup.exe所在的目录,然后执行如下命令:

OllamaSetup.exe /DIR="D:\ollama"

上述命令中DIR的值为D:\ollama,该值就是安装的目录位置。

执行上述命令后,会弹出OllamaSetup.exe安装窗体界面,此时我们点击Install按钮等待安装完成即可

安装完成后,Ollama默认为打开状态,此时我们先退出Ollama(鼠标右键点击任务栏的Ollama图标然后选择退出即可)。

三. Ollama的环境变量配置

进入到ollama的安装位置,我这里安装到了默认的C盘位置:

打开环境变量 , 在Path变量下新建一个:C:\Users\hadluo\AppData\Local\Programs\Ollama

验证环境变量, 打开cmd, 输入: ollama -v

四. 修改Ollama下载的大模型存储位置

我们打开环境变量,然后在用户变量中新建变量名为OLLAMA_MODELS,变量值为D:\soft_data\ollama-download-model,其中的变量值就是大模型下载存储的目录位置,最后点击确定即可,如下图所示:

到此我们的ollama环境就搭建完成。后续会讲解各大开源模型的部署。

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐