Ollama 本地部署指南:国内用户快速上手(含 Windows 安装包)

想要在本地跑通 RiverFlow AI 助手,第一步就是部署一个本地大模型。本文介绍如何通过 Ollama 快速实现。


一、什么是 Ollama?

Ollama 是一个开源的本地大语言模型运行框架,支持在 macOS、Linux、Windows 上快速拉取和运行各类开源模型,如:

  • 通义千问:qwen2.5 系列
  • Llama:llama3 系列
  • 智谱:glm4 系列
  • DeepSeek:deepseek-r1 系列

它的特点是:一条命令就能下载模型并启动对话,对开发者非常友好。


二、为什么选择本地部署?

对于政务、企业内网等场景,本地部署大模型有几个明显优势:

优势说明
数据不出域业务数据、流程描述、接口文档都不会上传到第三方模型服务商
离线可用不依赖外网,内网环境也能稳定运行
成本可控一次性硬件投入,没有按 Token 计费的后顾之忧
合规友好满足政务、金融、医疗等行业对数据安全的严格要求

三、下载 Ollama Windows 安装包

方式一:百度网盘(国内推荐)

由于 Ollama 官网下载速度较慢,我们准备了一个 Windows 安装包:

  • 文件名OllamaSetup(1).exe
  • 链接:https://pan.baidu.com/s/1F1wUQwl0fIaetRb3Xck_pQ
  • 提取码22gj

下载后双击运行,按提示完成安装即可。

方式二:官方下载

如果你能稳定访问外网,也可以直接从官网下载:

  • 官网:https://ollama.com/
  • Windows 下载页:https://ollama.com/download

四、安装步骤

1. 运行安装程序

双击 OllamaSetup(1).exe,安装程序会自动完成环境配置。

安装完成后,Ollama 会作为系统服务在后台运行,任务栏右下角会出现 Ollama 图标。

2. 验证安装

打开命令行(CMD 或 PowerShell),输入:

ollama --version

如果显示版本号,说明安装成功。

示例输出:

ollama version is 0.x.x

五、拉取并运行模型

1. 拉取推荐模型

RiverFlow AI 助手推荐使用 通义千问 Qwen2.5 14B,中文理解和流程生成效果较好:

ollama pull qwen2.5:14b

模型大小约 9GB,首次下载需要一定时间,请保持网络畅通。

如果你的电脑配置较低,也可以先尝试轻量版:

ollama pull qwen2.5:7b

2. 启动对话

ollama run qwen2.5:14b

进入交互模式后,可以直接输入问题测试:

>>> 你好
你好!有什么我可以帮你的吗?

Ctrl + D 或输入 /bye 退出。

3. 查看已安装模型

ollama list

六、在 RiverFlow 中配置 Ollama

Ollama 默认会暴露一个兼容 OpenAI 协议的 API 端点:

http://localhost:11434/v1

编辑 riverflow-ai/src/main/resources/application.yml

riverflow:
  ai:
    default-provider: ollama
    providers:
      - name: ollama
        type: openai
        base-url: http://localhost:11434/v1
        default-model: qwen2.5:14b

然后启动 riverflow-ai 和 riverflow-admin,打开流程设计器,即可使用 AI 助手。


七、常见问题

Q1:模型下载太慢或失败怎么办?

A:Ollama 默认从官方仓库下载,国内网络可能不稳定。建议:

  • 使用稳定的网络环境;
  • 多次重试 ollama pull
  • 或者配置 Ollama 使用镜像源(需自行搜索最新可用镜像)。

Q2:14B 模型需要什么配置?

A:建议至少:

  • CPU:8 核以上
  • 内存:16GB 以上
  • 显存:有独立显卡更佳(如 RTX 3060 12GB),但不是必须

如果硬件不够,建议用 qwen2.5:7b 或更小的 qwen2.5:4b

Q3:Ollama 默认把模型下载到 C 盘,怎么改路径?

A:设置环境变量 OLLAMA_MODELS,指向其他磁盘:

# PowerShell 示例
$env:OLLAMA_MODELS="D:\ollama-models"

然后重启 Ollama 服务。

Q4:如何确认 Ollama API 是否正常?

A:使用 curl 测试:

curl http://localhost:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen2.5:14b",
    "messages": [{"role": "user", "content": "你好"}]
  }'

如果能返回 JSON 结果,说明 API 正常。


八、总结

通过 Ollama,你可以在本地免费、安全、离线地运行大语言模型。配合 RiverFlow AI 助手,就能实现:

  • 自然语言生成政务流程
  • 本地数据不出域的 AI 辅助编排
  • 低成本、可审计的智能化数据交换

如果你还没部署,现在就下载安装包体验一下吧!

📥 百度网盘下载:https://pan.baidu.com/s/1F1wUQwl0fIaetRb3Xck_pQ
🔑 提取码22gj


RiverFlow — 筑坝导流,智驭数据之河。

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐