OpenClaw+千问3.5-9B本地部署指南：5步完成AI助手搭建

1. 为什么选择OpenClaw+千问3.5-9B组合

去年我在尝试自动化办公流程时，偶然发现了OpenClaw这个开源框架。当时最吸引我的是它能在本地电脑上实现"真人操作级"的自动化——不仅能处理文本，还能控制鼠标键盘、读写文件、甚至操作浏览器。但早期版本对接云端API时，总担心敏感数据外泄。直到千问3.5-9B模型开源后，这个组合终于让我实现了完全本地的AI助手方案。

这套方案有三个核心优势：

• 数据零外传：所有操作和推理都在本地完成，适合处理敏感文档
• 成本可控：相比调用商业API，本地部署后只需承担电费成本
• 深度定制：可以针对个人工作流训练专属技能，比如我的文献整理自动化流程

2. 环境准备与基础安装

2.1 硬件要求建议

在我的MacBook Pro (M1 Pro, 16GB)上实测，千问3.5-9B模型量化版需要至少8GB内存才能流畅运行。如果设备性能不足，可以考虑：

• 使用4-bit量化模型（推理质量略有下降）
• 外接显卡扩展坞（NVIDIA 3060及以上）
• 改用更小参数的模型版本

2.2 一键安装OpenClaw

推荐使用官方安装脚本，这个命令帮我跳过了繁琐的依赖配置：

curl -fsSL https://openclaw.ai/install.sh | bash

安装完成后验证版本（我当时装的是v0.8.3）：

openclaw --version

常见坑点：如果遇到权限错误，需要给安装目录赋权：

sudo chown -R $(whoami) /usr/local/lib/node_modules

3. 千问3.5-9B模型部署

3.1 获取模型权重

从官方渠道下载千问3.5-9B的GGUF量化文件时，我建议选择q5_k_m版本——在16GB内存设备上实测效果与速度平衡最佳。下载后建议放在固定目录，我通常使用：

mkdir -p ~/models/Qwen
mv qwen3.5-9b-q5_k_m.gguf ~/models/Qwen/

3.2 启动本地模型服务

使用llama.cpp运行模型服务时，这个参数组合在我的设备上表现稳定：

./server -m ~/models/Qwen/qwen3.5-9b-q5_k_m.gguf \
  --host 0.0.0.0 --port 8080 \
  --ctx-size 4096 -t 6

关键参数说明：

• -t 6：线程数建议设为物理核心数-2
• --ctx-size 4096：上下文窗口与OpenClaw默认配置匹配

4. OpenClaw配置对接

4.1 初始化配置向导

运行配置向导时选择Advanced模式，这是我验证过的可靠配置路径：

openclaw onboard --mode advanced

在模型配置环节需要特别注意：

1. Provider选择"Custom"
2. Base URL填写http://localhost:8080
3. API类型选择"openai-completions"
4. 模型名称保持与llama.cpp启动日志一致

4.2 手动修改配置文件

当向导配置不生效时（我遇到过两次），可以直接编辑配置文件：

// ~/.openclaw/openclaw.json
{
  "models": {
    "providers": {
      "qwen-local": {
        "baseUrl": "http://localhost:8080",
        "api": "openai-completions",
        "models": [
          {
            "id": "qwen3.5-9b",
            "name": "Qwen Local",
            "contextWindow": 4096
          }
        ]
      }
    }
  }
}

修改后必须重启网关服务：

openclaw gateway restart

5. 功能验证与排错

5.1 基础功能测试

我设计了一个三重验证方案：

1. 基础对话测试：通过Web控制台发送"你好"
2. 文件操作测试：创建测试文件并让AI重命名
3. 浏览器控制测试：自动打开网页搜索指定关键词

最实用的验证命令是：

openclaw test --full

这个命令会依次检查模型连接、基础技能、权限配置等关键环节。

5.2 常见问题解决方案

端口冲突问题：当18789端口被占用时，我的解决流程是：

1. 查找占用进程lsof -i :18789
2. 修改网关端口openclaw gateway --port 18790
3. 同步更新Web控制台访问地址

模型响应慢：通过调整llama.cpp的批处理参数显著提升速度：

./server -m ~/models/Qwen/qwen3.5-9b-q5_k_m.gguf \
  --host 0.0.0.0 --port 8080 \
  --ctx-size 4096 -t 6 -b 512 -c 2048

6. 我的自动化实践案例

部署完成后，我开发了几个实用场景：

• 晨间简报自动化：每天8点自动抓取指定新闻、生成摘要、写入备忘录
• 论文管理助手：监控下载文件夹，自动重命名PDF并提取元数据
• 会议纪要生成：连接飞书会议录音，自动转写并提炼行动项

最让我惊喜的是文件整理技能。只需要说"整理上周的销售报告"，AI就会：

1. 扫描指定文件夹
2. 按日期+客户名称重命名文件
3. 生成汇总Excel
4. 通过邮件发送给指定联系人

整个过程完全在本地完成，没有任何数据离开我的电脑。

---

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。