1. 为什么要在本地部署大模型？从零开始的理由

最近几年，AI大模型的发展速度简直让人眼花缭乱。从只能聊天的机器人，到现在能写代码、做分析、搞创作的“全能选手”，大模型的能力边界每天都在被刷新。但问题也随之而来：很多优秀的模型都跑在云端，我们每次调用都得联网，不仅响应速度受网络影响，对于一些涉及敏感数据或者需要高频次、低延迟调用的场景，总感觉不那么“得劲”。

于是，本地部署就成了很多技术爱好者和开发者的“心头好”。把大模型“请”到自己的电脑上，就像在家里装了个私人大厨，想吃什么、什么时候吃，完全自己说了算。数据安全有保障，响应速度飞快，还能根据自己的硬件“量体裁衣”，选择最适合的模型版本。今天我要跟你分享的，就是如何用 Ollama 这个神器，把 DeepSeek 这样的顶尖大模型轻松部署到你的本地电脑上。整个过程，我保证，就算你是刚接触AI的小白，跟着步骤走也能搞定。

Ollama 到底是什么？你可以把它理解成一个专为大型语言模型设计的“应用商店”兼“运行环境”。它把模型下载、环境配置、运行服务这些繁琐的步骤都打包好了，你只需要几条简单的命令，就能让一个动辄几GB甚至几十GB的模型在你的电脑上跑起来。而 DeepSeek 作为国产大模型的佼佼者，其推理能力，特别是 DeepSeek-R1 系列，在代码、数学和逻辑推理上表现非常亮眼。把它们俩结合起来，你就能在本地拥有一个强大、私密且免费的AI助手。

我自己的使用场景就很典型：写代码时需要查个语法或者让AI帮忙重构一段逻辑；读论文时让模型快速总结核心观点；甚至写文章时卡壳了，让它帮忙提供几个灵感方向。这些任务对实时性要求高，而且我不希望把未完成的代码或文稿上传到任何第三方服务器。本地部署的 DeepSeek 完美解决了这些问题。接下来，我就手把手带你走一遍从安装到调优的全过程，过程中我踩过的坑、总结的技巧，都会毫无保留地告诉你。

2. 战前准备：硬件、软件与环境检查

在开始“施工”之前，咱们得先看看自家的“地基”牢不牢。本地运行大模型，尤其是像 DeepSeek-R1 这样的大家伙，对硬件还是有一定要求的。但这不代表你必须得有台价值数万的工作站，很多模型版本对消费级硬件也很友好。

首先，咱们聊聊硬件。 核心看三样：CPU、内存和显卡（GPU）。CPU 主要负责一些系统调度和轻量级计算，对于大模型推理来说，一个现代的多核处理器（比如 Intel i5 十代以上或 AMD Ryzen 5 以上）就足够了。内存是关键，它是模型加载和运行过程中数据交换的“高速公路”。我建议至少准备 16GB 的内存。如果你打算运行 14B 或更大的模型，32GB 会是一个更从容的选择。

显卡（GPU）是加速推理的“发动机”。如果你的显卡有不错的显存（VRAM），比如 NVIDIA GTX 1060 6GB 或更高，那么模型的大部分计算都会在显卡上进行，速度会快很多。如果没有独立显卡，或者显存很小（比如只有2GB），也不用担心。Ollama 很智能，它会自动将模型加载到系统内存中，利用 CPU 进行推理，只是速度会慢一些。我实测过，在只有集成显卡的笔记本上，运行 7B 参数的模型进行对话，响应时间在可接受的范围内（几秒到十几秒）。

为了让你更直观地了解不同规模的 DeepSeek-R1 模型对硬件的要求，我整理了一个参考表格：

模型版本	硬盘空间需求	建议内存	建议显卡显存	适用场景与说明
DeepSeek-R1 1.5B	~1.1 GB	4 GB+	核显即可	入门体验，轻量文本处理，对硬件要求极低。
DeepSeek-R1 7B	~4.7 GB	8 GB+	4 GB+	平衡之选，具备优秀的通用能力，适合大多数推理和对话任务。GTX 1060 即可流畅运行。
DeepSeek-R1 8B	~4.9 GB	8 GB+	4 GB+	与7B版本能力相近，配置要求类似，同样是性价比很高的选择。
DeepSeek-R1 14B	~9.0 GB	16 GB+	8 GB+	能力更强，在复杂逻辑、代码生成等任务上表现更出色。需要较好的硬件支持。
DeepSeek-R1 32B	~20 GB	32 GB+	12 GB+	专业级性能，适用于高精度分析。需要高端显卡（如 RTX 3090 24GB）或进行量化。
DeepSeek-R1 70B	~43 GB	64 GB+	24 GB+	顶级模型，需要强大的工作站或服务器，通常需要多卡并行。

其次，是软件环境。 Ollama 支持 Windows、macOS 和 Linux。本文我会以 Windows 环境作为主要演示，因为这是用户基数最大的平台。macOS 和 Linux 的命令行操作大同小异，我会在关键处给出提示。确保你的系统是64位版本，并且已经安装了最新的显卡驱动（如果你是NVIDIA显卡，可以去官网下载安装Game Ready或Studio驱动，它们都包含CUDA组件，Ollama可能会用到）。

最后，养成一个好习惯：在安装任何新软件前，检查一下磁盘空间。尤其是C盘，因为Ollama默认会把模型下载到用户目录下。确保你的系统盘有至少10-20GB的剩余空间，如果你打算尝试多个大模型，那空间需求会更大。别担心，后面我也会教你怎么把模型库搬家到其他硬盘分区。

3. 第一步：安装与配置 Ollama 运行环境

万事俱备，现在开始动手。安装 Ollama 本身非常简单，几乎就是“下一步”到底。

3.1 下载与安装 Ollama

打开你的浏览器，访问 Ollama 的官方网站：https://ollama.com。在首页你就能看到大大的“Download”按钮。选择对应的操作系统版本。对于 Windows 用户，直接点击下载 OllamaSetup.exe 这个安装包，大小大概在700MB左右。

下载完成后，双击运行安装程序。安装过程没有任何需要特别注意的选项，就像安装普通软件一样，选择安装路径（默认在C盘）、点击“安装”、等待完成即可。安装结束后，Ollama 会默认在后台启动一个服务，并且可能会自动打开一个命令行窗口。如果你没看到，也不用着急。

3.2 验证安装与初次运行

安装完成后，我们需要验证一下 Ollama 是否正常工作。最直接的方法就是打开系统自带的 命令提示符（CMD） 或者 PowerShell。你可以按 Win + R 键，输入 cmd 或 powershell，然后回车。

在打开的黑窗口里，输入以下命令并回车：

ollama --version

如果安装成功，你会看到类似 ollama version 0.1.xx 的版本号信息。这就说明 Ollama 的命令行工具已经正确集成到你的系统环境里了。

接下来，让我们运行一个最简单的命令，来感受一下 Ollama 的工作方式。我们用一个非常小巧的模型来测试，比如 llama3.1:8b（这是一个 Meta 发布的优秀模型，大小约4.9GB）。在命令行中输入：

ollama run llama3.1:8b

当你第一次运行这个命令时，Ollama 会做两件事：首先，它会从官方的模型库中拉取（下载） llama3.1:8b 这个模型的镜像文件；下载完成后，它会自动加载并运行这个模型，进入一个交互式对话界面。

你会看到命令行中开始出现下载进度条，像这样：

pulling manifest
pulling 667b0c1932bc... 100% |████████████████████████| (4.9/4.9 GB)
...
verifying sha256 digest
writing manifest
success
>>>

当出现 >>> 提示符时，恭喜你！模型已经成功下载并运行起来了。你可以直接在 >>> 后面输入问题，比如“你好，请介绍一下你自己”，模型就会生成回答。要退出对话界面，可以按 Ctrl + D 或者输入 /bye。

这个测试过程非常重要。它不仅验证了你的 Ollama 安装、网络连接和基础运行环境全部正常，也让你熟悉了 Ollama 最核心的 run 命令。如果这一步成功了，那么部署 DeepSeek 就是顺理成章的事情。

4. 核心实战：部署 DeepSeek-R1 系列模型

测试环境畅通无阻，现在主角该登场了。DeepSeek-R1 系列模型在 Ollama 的模型库中可以直接获取，部署命令和我们刚才测试用的格式一模一样。

4.1 选择你的第一个 DeepSeek 模型

对于大多数初次尝试的朋友，我强烈推荐从 DeepSeek-R1:8b 开始。为什么是8B版本？因为它是一个绝佳的平衡点：4.9GB 的磁盘占用对现代电脑来说压力不大；其能力在通用聊天、代码辅助、逻辑推理等方面已经非常强大，远超许多早期的百亿参数模型；对硬件的要求相对亲民，8GB内存+4GB显存的配置就能获得不错的体验。

在命令行中，输入以下命令：

ollama run deepseek-r1:8b

和之前一样，Ollama 会开始下载模型。由于模型有4.9GB，下载时间取决于你的网速。泡杯茶，稍等片刻。下载完成后，会自动进入对话模式。看到 >>> 提示符后，你就可以和 DeepSeek 对话了。不妨问它一个专业点的问题，比如：“用Python写一个快速排序函数，并加上详细注释。” 你会看到它不仅能给出正确代码，注释也写得非常清晰，甚至能解释算法思路。这就是本地大模型的魅力——一个完全私有的编程导师。

4.2 探索更多版本：从1.5B到14B

根据你的硬件条件和需求，你可以轻松尝试其他版本的 DeepSeek-R1。命令格式都是统一的 ollama run deepseek-r1:[版本号]b。

• 追求极速与轻量：如果你的电脑配置比较老旧，或者你只想体验一下基本功能，可以运行 ollama run deepseek-r1:1.5b。这个模型只有1.1GB，在几乎任何电脑上都能瞬间加载，响应速度极快，适合处理简单的文本问答和摘要。
• 挑战更高性能：如果你的电脑有16GB以上内存和8GB以上显存（比如RTX 3060/4060或更高），那么一定要试试 ollama run deepseek-r1:14b。这个9GB的模型在复杂任务上的表现会明显提升。你可以让它帮你分析一段复杂的项目需求，或者写一篇结构严谨的技术文章大纲，它能更好地理解上下文和深层逻辑。

我自己的电脑是32GB内存和一张RTX 3060 12GB显卡。我日常主要使用 14B 版本，它在代码生成和调试方面给我的帮助最大。当我需要快速查阅资料或者进行多轮简单对话时，我会切换到 8B 版本，因为加载更快。这种根据任务灵活切换模型的能力，也是本地部署的一大优势。

4.3 模型管理常用命令

你不可能每次都重新下载模型。Ollama 提供了一套简单的命令来管理你本地的模型库。

• 查看已安装的模型：ollama list 这个命令会列出所有你已经下载到本地的模型，以及它们的ID、大小和修改日期。
• 删除不需要的模型：ollama rm <模型名> 比如 ollama rm deepseek-r1:1.5b。当你磁盘空间紧张，或者想清理旧版本时，这个命令非常有用。注意：删除操作不可逆。
• 只下载模型而不运行：ollama pull <模型名> 如果你知道接下来要用某个模型，可以提前下载好，避免在用的时候等待。

5. 进阶技巧：自定义配置与性能调优

当你成功运行起第一个模型后，可能会遇到一些“甜蜜的烦恼”：模型默认下载到C盘，空间告急；或者想从局域网的另一台电脑访问你本地的Ollama服务。别急，这些都可以通过一些进阶配置来解决。

5.1 给模型库搬个家（修改默认存储路径）

Ollama 默认把所有模型都存放在 C:\Users\<你的用户名>\.ollama\models 目录下。对于C盘空间紧张的用户，这很不友好。我们可以通过设置系统环境变量，给模型库搬个家。

1. 在Windows搜索框输入“环境变量”，选择“编辑系统环境变量”。
2. 在弹出的“系统属性”窗口中，点击右下角的“环境变量”按钮。
3. 在“系统变量”区域，点击“新建”。
4. 在“变量名”中填入：OLLAMA_MODELS
5. 在“变量值”中填入你想要存放模型的新路径，例如：D:\AI_Models\ollama 或 E:\ollama\models。请确保这个路径存在，如果不存在，请先手动创建好这个文件夹。
6. 点击“确定”保存所有窗口。

重要提示：设置完环境变量后，必须完全关闭所有已经打开的Ollama相关进程和命令行窗口。然后重新打开一个命令行窗口，再运行 ollama run 命令。此时，新下载的模型就会存储在你指定的新目录里了。对于之前已经下载到C盘的旧模型，你可以手动将 C:\Users\<你的用户名>\.ollama\models 文件夹下的全部内容，复制到你新建的目录（例如 D:\AI_Models\ollama）中，这样就不用重新下载了。

5.2 让 Ollama 服务在局域网内共享

有时候，你希望能在书房电脑上部署模型，然后在卧室的笔记本上通过浏览器或者API来调用。这就需要将 Ollama 的服务从仅供本机访问，改为允许局域网访问。

同样通过环境变量来设置：

1. 按照上述步骤，新建一个系统环境变量。
2. 变量名设置为：OLLAMA_HOST
3. 变量值设置为：0.0.0.0:11434
   • 0.0.0.0 表示监听所有网络接口。
   • 11434 是 Ollama 服务的默认端口。
4. 保存设置。

同样，设置完成后，关闭所有Ollama进程和命令行窗口。然后以管理员身份打开一个新的命令行窗口，输入 ollama serve 来启动服务。你会看到服务启动日志，并监听在 0.0.0.0:11434。现在，局域网内的其他设备，就可以通过 http://你的电脑IP:11434 这个地址来访问你的 Ollama 服务了。例如，在其他电脑的浏览器里访问 http://192.168.1.100:11434，如果看到返回一些JSON格式的信息，说明服务共享成功。许多第三方的AI客户端（如 Open WebUI、Continue.dev 等）都可以通过配置这个地址来连接你本地的模型。

5.3 针对低配置硬件的优化思路

如果你的显卡显存不足（比如只有6GB），却想运行 14B 模型，可能会遇到内存不足的错误。这时候可以尝试使用 Ollama 的 量化模型。量化是一种降低模型数值精度的技术，能显著减少模型对显存和内存的占用，但可能会轻微影响输出质量。

Ollama 的模型库中，有些模型会提供量化版本，通常在模型名中带有 :q4_0、:q8_0 等后缀。你可以去 Ollama 官网的模型库页面搜索 deepseek-r1:14b-q4_0 看看是否有相关标签。运行量化模型的命令和之前一样：ollama run deepseek-r1:14b-q4_0。量化后，模型体积可能缩小到原来的1/2甚至更多，让大模型在消费级显卡上运行成为可能。

6. 避坑指南：常见问题与解决方案

在本地部署的过程中，你可能会遇到一些和我当初类似的问题。这里我总结几个最常见的“坑”及其解决办法。

问题一：运行 ollama run 命令时，提示“无法连接到 Ollama 服务”或长时间无反应。

这通常是因为 Ollama 的后台服务没有正确启动。

• 解决方案：首先，去系统托盘（桌面右下角）找找有没有 Ollama 的图标，右键点击选择 “Restart”。如果没有，打开任务管理器（Ctrl+Shift+Esc），在“进程”或“服务”标签页里查找名为 ollama 的进程，结束它。然后，重新以管理员身份打开命令行，输入 ollama serve 手动启动服务。看到服务成功启动并监听端口的日志后，再新开一个命令行窗口运行模型。

问题二：下载模型时速度极慢，或者中途失败。

Ollama 的服务器在国外，国内直连有时不稳定。

• 解决方案：可以尝试配置网络代理。但请注意，这里我们仅讨论合法的、用于加速学术资源访问的网络设置。你需要确保你的代理支持命令行流量转发。通常可以在命令行中临时设置环境变量来实现，例如在PowerShell中：

  $env:HTTP_PROXY="http://你的代理地址:端口"
  $env:HTTPS_PROXY="http://你的代理地址:端口"
  

  设置后再运行 ollama run 命令。请务必遵守当地法律法规，仅使用合规的网络服务。

问题三：模型运行起来后，生成文本的速度非常慢。

这通常是硬件资源不足的表现。

• 解决方案：
  1. 检查资源占用：打开任务管理器，查看CPU、内存和GPU的利用率。如果内存或显存占用接近100%，说明硬件已是满负荷。
  2. 换用更小的模型：如果你运行的是14B，可以换到8B或7B试试，速度会有立竿见影的提升。
  3. 关闭不必要的程序：特别是浏览器（尤其是开了很多标签页）、大型游戏或设计软件，它们会占用大量内存和显存。
  4. 确认是否使用了GPU：在模型运行过程中，查看任务管理器的“GPU”选项卡，看“3D”或“CUDA”引擎是否有较高占用。如果没有，可能是Ollama没有正确调用到你的NVIDIA GPU。可以尝试更新显卡驱动，并确保安装了CUDA工具包（虽然Ollama不一定强制需要，但有时有帮助）。

问题四：如何更新已安装的模型到最新版本？

模型库会更新，比如修复bug或微调。

• 解决方案：Ollama 目前没有直接的“update”命令。更新模型最直接的方法是先删除旧版本，再重新拉取。例如：

  ollama rm deepseek-r1:8b
  ollama pull deepseek-r1:8b
  

  重新拉取时，会下载最新的镜像文件。

本地部署大模型的过程，就像是在组装一台功能强大的“思维机器”。从最初的下载安装，到后来的调优配置，每一步的完成都会带来不小的成就感。我依然记得第一次在本地命令行里看到DeepSeek流畅地为我解答技术难题时的那种兴奋——它不再是一个遥不可及的云端服务，而是一个触手可及、随时待命的伙伴。遇到问题别灰心，多尝试、多搜索，社区里有很多热心的开发者分享经验。最重要的是开始动手，当你跑通第一个模型，后面的路就会越走越宽。