OpenClaw高阶用法：千问3.5-9B模型微调与接入

1. 为什么需要定制化模型接入

去年我在尝试用OpenClaw自动化处理公司内部技术文档时，发现通用模型在专业术语理解和格式转换上总是差强人意。一个简单的Markdown转Confluence任务，模型需要反复确认字段映射关系。这促使我开始探索如何将专业领域知识"固化"到模型中。

千问3.5-9B作为中等规模的开源模型，在保持较强推理能力的同时，对消费级GPU友好（实测单卡A10G即可运行）。通过LoRA微调，我们可以在不改变基础模型参数的情况下，为其注入特定领域的"肌肉记忆"。这种轻量级微调方案特别适合OpenClaw这类需要快速迭代技能的个人自动化工具。

2. 微调环境准备与数据工程

2.1 星图GPU实例配置建议

在星图平台选择"千问3.5-9B"镜像创建实例时，我的经验是：

# 推荐最小配置
GPU：NVIDIA A10G (24GB显存)
vCPU：8核
内存：32GB
磁盘：100GB SSD

这个配置可以保证在批处理大小(batch_size)=4的情况下稳定训练。我曾尝试在T4(16GB)上运行，需要将batch_size降到2并开启梯度检查点，训练时间延长了40%。

2.2 构建领域特定数据集

以"技术文档处理"场景为例，我的数据集结构如下：

dataset/
├── instructions.jsonl  # 任务指令集
├── positive_samples/   # 成功案例
└── negative_samples/   # 典型错误案例

其中instructions.jsonl的典型样本格式：

{
  "instruction": "将以下Markdown表格转换为Confluence Wiki格式",
  "input": "| 参数 | 类型 | 说明 |\n|------|------|------|\n| timeout | int | 请求超时(ms) |",
  "output": "|| 参数 || 类型 || 说明 ||\n| timeout | int | 请求超时(ms) |",
  "task_type": "format_conversion"
}

关键技巧是保持指令多样性：我准备了约2000条样本，覆盖格式转换、术语解释、错误修复等场景，其中15%是故意构造的负样本（如残缺表格、错误术语等）。

3. LoRA微调实战过程

3.1 参数配置的艺术

在星图镜像预装的环境下，我的训练命令如下：

python finetune.py \
  --model_name_or_path Qwen/Qwen1.5-9B \
  --dataset ./dataset/instructions.jsonl \
  --lora_rank 64 \
  --lora_alpha 128 \
  --target_modules "q_proj,k_proj,v_proj,o_proj" \
  --per_device_train_batch_size 4 \
  --gradient_accumulation_steps 2 \
  --learning_rate 1e-5 \
  --num_train_epochs 3 \
  --output_dir ./output \
  --logging_steps 10

几个关键参数的血泪教训：

• lora_rank超过128容易过拟合（在我的测试集上准确率下降5%）
• 学习率高于3e-5会导致训练震荡
• 对target_modules增加gate_proj和up_proj模块反而降低了泛化能力

3.2 训练监控与早期停止

我习惯用WandB监控损失曲线，一个健康的训练过程应该呈现：

1. 前500步：损失快速下降（通常从3.5→2.0）
2. 500-2000步：平稳下降（2.0→1.2）
3. 2000步后：在1.0-1.2区间波动

如果出现损失突增或持续高于基线，可能是学习率过高或数据样本有问题。我的应急方案是：

• 立即保存当前checkpoint
• 对最近100个batch的数据进行人工复核
• 调整学习率为原值的一半继续训练

4. 模型导出与OpenClaw适配

4.1 生成可部署的API服务

使用星图镜像内置的导出工具：

python export_checkpoint.py \
  --checkpoint ./output \
  --merge \
  --device cuda:0 \
  --max_shard_size "2GB" \
  --adapter_name my_lora

这会生成可直接用于推理的模型文件。我建议同时导出安全模型（safetensors格式）：

cp ./output/model-00001-of-00002.safetensors /mnt/model/
cp ./output/model.safetensors.index.json /mnt/model/

4.2 OpenClaw配置技巧

在~/.openclaw/openclaw.json中添加自定义模型配置：

{
  "models": {
    "providers": {
      "my_qwen": {
        "baseUrl": "http://localhost:5000/v1",
        "apiKey": "sk-no-key-required",
        "api": "openai-completions",
        "models": [
          {
            "id": "qwen3.5-9b-lora",
            "name": "My Tuned Qwen",
            "contextWindow": 32768,
            "maxTokens": 4096,
            "timeout": 60000
          }
        ]
      }
    }
  }
}

特别注意：

• 如果API服务有鉴权，需要设置真实的apiKey
• timeout建议设为60000(ms)以上以适应长文本处理
• 本地测试可用curl验证：

curl http://localhost:5000/v1/completions \
  -H "Content-Type: application/json" \
  -d '{"model": "qwen3.5-9b-lora", "prompt": "Translate to English: 今天天气真好"}'

5. 性能优化与生产级部署

5.1 压力测试实战数据

使用k6进行负载测试的配置示例：

import http from 'k6/http';
import { check, sleep } from 'k6';

export const options = {
  stages: [
    { duration: '30s', target: 10 },  // 预热
    { duration: '1m', target: 20 },
    { duration: '30s', target: 50 },  // 峰值
  ],
};

export default function () {
  const res = http.post('http://localhost:5000/v1/completions', JSON.stringify({
    model: "qwen3.5-9b-lora",
    prompt: "简要总结这段话：OpenClaw是一个...",
    max_tokens: 100
  }), {
    headers: { 'Content-Type': 'application/json' },
  });
  check(res, { 'status was 200': (r) => r.status == 200 });
  sleep(1);
}

在我的A10G实例上测试结果：

• 10并发：平均响应时间1.2s
• 20并发：平均响应时间2.8s（P95=4.1s）
• 超过30并发：开始出现503错误

5.2 OpenClaw侧限流配置

为防止任务堆积，在openclaw.json中增加：

{
  "gateway": {
    "rateLimiting": {
      "enabled": true,
      "strategy": "fixed-window",
      "rate": "15/1m",  // 每分钟15次
      "burst": 5
    }
  }
}

同时建议在模型服务端启用动态批处理（如果框架支持）。我在vLLM上的配置：

# vllm_engine.py
engine = LLMEngine(
    model="qwen3.5-9b-lora",
    max_num_batched_tokens=4096,
    max_num_seqs=20,
    gpu_memory_utilization=0.85
)

6. 踩坑记录与救火经验

显卡OOM问题：首次加载模型时遇到CUDA out of memory，发现是默认的max_num_seqs太大。解决方案：

export PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:32

API响应慢：跟踪发现是OpenClaw的默认超时(30s)与模型服务不匹配。需要同时调整：

1. 模型服务端：增加--request-timeout 600
2. OpenClaw端：设置"timeout": 60000

中文乱码问题：在非UTF-8环境的Docker容器中，需要显式指定：

ENV LANG=C.UTF-8
ENV LC_ALL=C.UTF-8

LoRA权重不生效：检查三点：

1. 导出时是否添加--merge参数
2. 模型加载日志是否显示Loading lora weights...
3. 配置文件中的model_name是否与训练时一致

---

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。