Ollama 本地部署指南,安装包在文章结尾
Ollama 本地部署指南:国内用户快速上手(含 Windows 安装包)
想要在本地跑通 RiverFlow AI 助手,第一步就是部署一个本地大模型。本文介绍如何通过 Ollama 快速实现。
一、什么是 Ollama?
Ollama 是一个开源的本地大语言模型运行框架,支持在 macOS、Linux、Windows 上快速拉取和运行各类开源模型,如:
- 通义千问:
qwen2.5系列 - Llama:
llama3系列 - 智谱:
glm4系列 - DeepSeek:
deepseek-r1系列
它的特点是:一条命令就能下载模型并启动对话,对开发者非常友好。
二、为什么选择本地部署?
对于政务、企业内网等场景,本地部署大模型有几个明显优势:
| 优势 | 说明 |
|---|---|
| 数据不出域 | 业务数据、流程描述、接口文档都不会上传到第三方模型服务商 |
| 离线可用 | 不依赖外网,内网环境也能稳定运行 |
| 成本可控 | 一次性硬件投入,没有按 Token 计费的后顾之忧 |
| 合规友好 | 满足政务、金融、医疗等行业对数据安全的严格要求 |
三、下载 Ollama Windows 安装包
方式一:百度网盘(国内推荐)
由于 Ollama 官网下载速度较慢,我们准备了一个 Windows 安装包:
- 文件名:
OllamaSetup(1).exe - 链接:https://pan.baidu.com/s/1F1wUQwl0fIaetRb3Xck_pQ
- 提取码:
22gj
下载后双击运行,按提示完成安装即可。
方式二:官方下载
如果你能稳定访问外网,也可以直接从官网下载:
- 官网:https://ollama.com/
- Windows 下载页:https://ollama.com/download
四、安装步骤
1. 运行安装程序
双击 OllamaSetup(1).exe,安装程序会自动完成环境配置。
安装完成后,Ollama 会作为系统服务在后台运行,任务栏右下角会出现 Ollama 图标。
2. 验证安装
打开命令行(CMD 或 PowerShell),输入:
ollama --version
如果显示版本号,说明安装成功。
示例输出:
ollama version is 0.x.x
五、拉取并运行模型
1. 拉取推荐模型
RiverFlow AI 助手推荐使用 通义千问 Qwen2.5 14B,中文理解和流程生成效果较好:
ollama pull qwen2.5:14b
模型大小约 9GB,首次下载需要一定时间,请保持网络畅通。
如果你的电脑配置较低,也可以先尝试轻量版:
ollama pull qwen2.5:7b
2. 启动对话
ollama run qwen2.5:14b
进入交互模式后,可以直接输入问题测试:
>>> 你好
你好!有什么我可以帮你的吗?
按 Ctrl + D 或输入 /bye 退出。
3. 查看已安装模型
ollama list
六、在 RiverFlow 中配置 Ollama
Ollama 默认会暴露一个兼容 OpenAI 协议的 API 端点:
http://localhost:11434/v1
编辑 riverflow-ai/src/main/resources/application.yml:
riverflow:
ai:
default-provider: ollama
providers:
- name: ollama
type: openai
base-url: http://localhost:11434/v1
default-model: qwen2.5:14b
然后启动 riverflow-ai 和 riverflow-admin,打开流程设计器,即可使用 AI 助手。
七、常见问题
Q1:模型下载太慢或失败怎么办?
A:Ollama 默认从官方仓库下载,国内网络可能不稳定。建议:
- 使用稳定的网络环境;
- 多次重试
ollama pull; - 或者配置 Ollama 使用镜像源(需自行搜索最新可用镜像)。
Q2:14B 模型需要什么配置?
A:建议至少:
- CPU:8 核以上
- 内存:16GB 以上
- 显存:有独立显卡更佳(如 RTX 3060 12GB),但不是必须
如果硬件不够,建议用 qwen2.5:7b 或更小的 qwen2.5:4b。
Q3:Ollama 默认把模型下载到 C 盘,怎么改路径?
A:设置环境变量 OLLAMA_MODELS,指向其他磁盘:
# PowerShell 示例
$env:OLLAMA_MODELS="D:\ollama-models"
然后重启 Ollama 服务。
Q4:如何确认 Ollama API 是否正常?
A:使用 curl 测试:
curl http://localhost:11434/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "qwen2.5:14b",
"messages": [{"role": "user", "content": "你好"}]
}'
如果能返回 JSON 结果,说明 API 正常。
八、总结
通过 Ollama,你可以在本地免费、安全、离线地运行大语言模型。配合 RiverFlow AI 助手,就能实现:
- 自然语言生成政务流程
- 本地数据不出域的 AI 辅助编排
- 低成本、可审计的智能化数据交换
如果你还没部署,现在就下载安装包体验一下吧!
📥 百度网盘下载:https://pan.baidu.com/s/1F1wUQwl0fIaetRb3Xck_pQ
🔑 提取码:22gj
RiverFlow — 筑坝导流,智驭数据之河。
更多推荐


所有评论(0)