Ollama 本地部署 Qwen3-8B Q4_K_M 的完整操作流，以我的电脑配置 Windows10 + CPU i7-13650HX + RTX 4060 8GB + 内存 24G 环境，按下面的方法快速安装，亲测有效。

一、安装 Ollama

1. 浏览器打开 ollama.com → Download → 选 Windows 版本
2. 双击 .exe 安装包 → 一路 Next
3. 安装完成后，重启一次电脑（确保 Ollama 服务自动启动）
4. 验证：按 Win + R → 输入 cmd → 回车，终端里执行：

ollama --version

注意版本号（要求 0.6 及以上，Ollama 0.6+ 才开始支持 Qwen3）即安装成功。

二、一键拉取并运行 Qwen3-8B Q4_K_M

在 cmd 里直接执行：

ollama run qwen3:8b-q4_K_M

这条命令会自动完成三件事：

1. 下载模型：Qwen3-8B 的 Q4_K_M 量化版本，体积约 5.2GB，下载时间较长，需耐心等待！
2. 自动加载到 RTX 4060 显存：Ollama 会自动检测 GPU 并启用 CUDA 加速
3. 进入交互式对话：下载完成后直接进入聊天界面，可以打字测试

💡 模型标签说明：qwen3:8b-q4_K_M 是 Ollama 官方库里的标准标签，对应 8.19B 参数、Q4_K_M 量化、5.2GB 大小、Apache 2.0 许可证（可商用）。如果你只写 qwen3:8b，Ollama 也会默认自动选择 Q4_K_M 量化版本。

国内下载慢的解决办法：

• 设置环境变量 OLLAMA_MODELS 指向一个有空间的磁盘分区
• 或者配置系统代理后重试
• 网络稳定情况下，5.2GB 大约 3-10 分钟下完

三、验证服务是否正常运行

Ollama 安装后会自动在后台启动服务，监听 http://localhost:11434。

另开一个 cmd 窗口，执行：

curl http://localhost:11434/api/tags

如果返回包含 "qwen3:8b-q4_K_M" 的 JSON，说明模型已成功加载到显存，服务可用。

手动启动服务（如果上面命令没返回）：

ollama serve

保持这个窗口开着，不要关。

四、接入 WorkBuddy（关键步骤）

打开 WorkBuddy → 设置 → 模型 → 添加自定义模型：

配置项	填写值
模型类型	本地部署(Ollama)
API 地址	http://localhost:11434/v1
API Key	ollama（任意字符串，本地不校验）
模型名称	qwen3:8b-q4_K_M（必须与 ollama list 显示的一致）
最大输入 Token	8192（4060 8GB 的舒适区）
最大输出 Token	2048-4096
Temperature	0.3（造文档处理需低随机性）

⚠️ 三个最容易踩的坑：

1. API 地址末尾的 /v1 不能省——Ollama 的 OpenAI 兼容接口必须在 11434 后加 /v1

2. 模型名称必须一字不差地填 qwen3:8b-q4_K_M，大小写敏感

3. 保存配置后，必须彻底退出 WorkBuddy 再重开（系统托盘右键图标 → 退出），否则模型列表不刷新

五、验证 WorkBuddy 接入成功

1. 重启 WorkBuddy 后，对话框顶部模型下拉列表里应该能看到 qwen3:8b-q4_K_M
2. 选中它，发一句"你好"
3. 正常回复 = 接入成功，且左下角积分不会减少（本地推理零积分）
4. 同时 Ollama 的服务窗口会打印 POST /v1/chat/completions 的访问日志

六、日常使用命令速查

命令	作用
ollama list	查看已安装的模型
ollama run qwen3:8b-q4_K_M	进入交互式对话
ollama serve	启动后台服务
ollama rm qwen3:8b-q4_K_M	删除模型释放空间
ollama pull qwen3:8b-q4_K_M	更新模型

七、⚠️ 注意事项

关机后服务会停，每次重启电脑后，需要重新执行 ollama serve 或 ollama run qwen3:8b-q4_K_M 来启动服务，WorkBuddy 才能连上。建议把 ollama serve 设为开机自启，或写个 .bat 脚本一键启动。

总结：Ollama 部署 Qwen3-8B Q4_K_M 就一条核心命令 ollama run qwen3:8b-q4_K_M，5.2GB 下载完就能用；WorkBuddy 接入填 http://localhost:11434/v1 + 模型名 qwen3:8b-q4_K_M，赶快试试吧！