千问3.5-9B开源模型微调实战：使用个人数据打造专属助手

1. 为什么需要微调开源大模型

开源大模型如千问3.5-9B虽然具备强大的通用能力，但在特定领域或个性化需求上往往表现不足。这就好比一个博学多才的教授，虽然知识面广，但对某个具体行业的了解可能不如从业多年的专业人士。

通过微调，我们可以让模型更好地理解专业术语、适应特定表达方式、掌握领域知识。比如你想让模型帮你处理法律文书，或者成为你的编程助手，微调后的模型会比原始版本表现更好。更重要的是，整个过程完全在本地或私有云进行，确保了数据隐私和安全。

2. 准备工作与环境搭建

2.1 硬件需求评估

千问3.5-9B作为90亿参数规模的模型，对硬件有一定要求。建议至少使用24GB显存的GPU，比如NVIDIA RTX 3090或A10G。如果显存不足，可以使用后面介绍的QLoRA技术来降低需求。

2.2 星图GPU平台快速部署

在星图平台选择"千问3.5-9B微调"镜像，这个预置环境已经包含了所有必要的依赖项。创建实例时，建议选择至少16核CPU和64GB内存的配置，确保训练过程流畅。

# 登录星图平台后执行
git clone https://github.com/QwenLM/Qwen-7B.git
cd Qwen-7B
pip install -r requirements.txt

3. 数据准备与清洗

3.1 构建高质量数据集

微调效果很大程度上取决于数据质量。建议准备至少1000条高质量的领域相关数据。数据格式可以是问答对、对话记录或纯文本。例如：

{
  "instruction": "用专业法律语言改写以下合同条款",
  "input": "甲方有权在提前30天通知后终止合同",
  "output": "缔约方甲享有在提前三十日书面通知相对方的前提下单方解除本协议之权利"
}

3.2 数据清洗技巧

常见的数据问题包括：

• 格式不一致（有的带标点有的不带）
• 包含敏感信息
• 质量参差不齐

可以使用简单的Python脚本进行初步清洗：

import json
import re

def clean_text(text):
    text = re.sub(r'\s+', ' ', text)  # 去除多余空格
    text = text.strip()  # 去除首尾空格
    return text

with open('raw_data.json', 'r') as f:
    data = json.load(f)
    
cleaned_data = []
for item in data:
    item['instruction'] = clean_text(item.get('instruction', ''))
    item['input'] = clean_text(item.get('input', ''))
    item['output'] = clean_text(item.get('output', ''))
    cleaned_data.append(item)

4. 微调配置与训练

4.1 QLoRA轻量微调技术

QLoRA是一种高效的微调方法，可以在保持模型性能的同时大幅降低显存需求。它通过量化技术和低秩适配器实现这一点，特别适合资源有限的情况。

from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import LoraConfig, get_peft_model

model = AutoModelForCausalLM.from_pretrained("Qwen/Qwen-7B")
tokenizer = AutoTokenizer.from_pretrained("Qwen/Qwen-7B")

lora_config = LoraConfig(
    r=8,  # 低秩矩阵的维度
    lora_alpha=32,  # 缩放因子
    target_modules=["query_key_value"],  # 作用于哪些模块
    lora_dropout=0.05,
    bias="none",
    task_type="CAUSAL_LM"
)

model = get_peft_model(model, lora_config)

4.2 关键训练参数设置

from transformers import TrainingArguments

training_args = TrainingArguments(
    output_dir="./results",
    per_device_train_batch_size=4,
    gradient_accumulation_steps=4,
    learning_rate=2e-5,
    num_train_epochs=3,
    logging_dir="./logs",
    logging_steps=10,
    save_steps=500,
    fp16=True,  # 使用混合精度训练
)

5. 模型评估与部署

5.1 评估微调效果

训练完成后，可以通过以下方式评估模型：

1. 人工检查：输入一些测试问题，检查输出质量
2. 自动评估：使用BLEU、ROUGE等指标（适用于有标准答案的情况）

from transformers import pipeline

qa_pipeline = pipeline(
    "text-generation",
    model=model,
    tokenizer=tokenizer,
    device=0
)

test_input = "用专业法律语言改写：双方同意保密"
result = qa_pipeline(test_input, max_length=100)
print(result[0]['generated_text'])

5.2 模型导出与部署

训练好的模型可以导出为Hugging Face格式，方便后续使用：

model.save_pretrained("./my_finetuned_qwen")
tokenizer.save_pretrained("./my_finetuned_qwen")

在星图平台上，你可以直接使用"模型服务"功能将微调后的模型部署为API服务，供其他应用调用。

6. 微调经验与实用建议

经过多次微调实践，我总结出几点重要经验。首先，数据质量比数量更重要，1000条精心准备的数据可能比10000条杂乱数据效果更好。其次，学习率不宜设置过高，建议从2e-5开始尝试。最后，训练过程中要定期保存检查点，防止意外中断导致进度丢失。

如果效果不理想，可以尝试调整QLoRA的rank参数，或者增加训练数据多样性。微调后的模型在特定任务上表现会明显提升，但要注意可能会损失一些通用能力，所以要根据实际需求权衡。

---

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。