事故现象：评测集与生产环境严重脱节

某金融客户在内部知识库问答系统验收时，使用自行构造的 200 条测试问题评估 DeepSeek-RAG 效果，准确率达到 92%。上线后真实用户提问的首次回答正确率却暴跌至 43%，运维团队日均收到 17 起错误答案投诉。

排查链路：从数据到评估方法的全面验尸

1. 测试集分布分析：
2. 客户自建测试集中 86% 为事实型问题（如「信用卡年费多少」），而生产日志显示 62% 用户提问涉及多文档推理（如「境外消费被拒的可能原因及解决方案」）

3. 测试问题平均长度 9.2 词，真实用户提问平均 23.7 词含嵌套条件

4. 召回-重排环节拆解：

5. 测试环境未模拟实际 chunk 污染情况（如 PDF 表格被错误切分）

6. 人工构造的「标准答案」未覆盖模型合理推断的灰色地带

7. 评估指标缺陷：

8. 仅用精确匹配（EM）忽略语义相似度
9. 未设置「拒答率」指标导致模型强行编造答案

根因诊断：评测集的三种常见幻觉

1. 场景失真：测试问题未覆盖真实查询的长尾分布
2. 文档污染缺失：未模拟实际数据源的噪声和残缺
3. 评估标准单一：二元对错判断不适用于复杂业务场景

修复方案：基于生产日志的自动化评测流水线

def generate_eval_set(logs, sample_strategy):
    # 从真实查询日志中聚类采样
    query_clusters = BERTopic(logs['questions']).fit_transform()
    # 注入噪声模拟实际文档状态
    noisy_docs = apply_ocr_errors(ground_truth)
    # 构建多维评估标准
    metrics = {
        'accuracy': QA_F1,
        'safety': ToxicBERT(),
        'rejection': ConfidenceThreshold(0.3)
    }
    return EvalPipeline(query_clusters, noisy_docs, metrics)

关键改进点： - 从生产日志自动提取查询模式（正则+聚类） - 对基准文档主动注入典型噪声（OCR 错误、表格错位） - 引入三级评估体系（事实准确度、安全护栏、拒答合理性）

实施细节：评测集生成的四阶工作流

1. 日志清洗阶段：
2. 使用规则引擎过滤无效查询（如空输入、测试数据）
3. 对敏感信息进行匿名化处理（银行卡号、身份证号）

4. 统计查询长度、实体密度等特征分布

5. 意图聚类阶段：

6. 采用混合聚类策略：短文本用 SBERT 嵌入+k-means，长文本用 Top2Vec
7. 人工审核聚类结果，合并语义相近的意图类别

8. 确保每个意图类别至少保留 20 个典型查询样本

9. 噪声注入阶段：

10. 文档级噪声：模拟扫描件模糊、表格跨页断裂
11. 段落级噪声：随机删除 5-15% 的关键句子

12. 词汇级噪声：引入同音错别字和术语混淆

13. 评估矩阵构建：

14. 基础指标：答案事实性（F1）、引用准确性（Quote Recall）
15. 业务指标：流程合规性检查、风控条款覆盖度
16. 体验指标：回答流畅度、多轮衔接自然度

预防体系：评测集健康度检查清单

1. 覆盖率验证：
2. 测试问题应覆盖生产日志中 90% 的意图类别

3. 包含至少 15% 的边界用例（模糊提问、矛盾文档）

4. 噪声模拟：

5. 在基准文档中植入典型脏数据（扫描件伪影、截断表格）

6. 测试集应含 5-10% 的「不可回答」问题

7. 评估维度：

8. 必须包含拒答率指标
9. 对复杂问题设置部分得分机制

工程落地中的典型陷阱

1. 冷启动问题：
2. 新系统无历史日志时，可用竞品产品的公开查询作为种子

3. 采用主动学习策略：先小规模人工标注，再迭代扩展

4. 概念漂移应对：

5. 每月动态更新评测集，保留 20% 的历史问题作为回归测试

6. 当新增问题类型超过 15% 时触发专项评测

7. 结果解释误区：

8. 区分系统错误和知识缺失导致的低分
9. 建立误判申诉通道，避免过度优化指标

成本异常告警的意外收获

实施自动化评测集生成后，团队发现：当评测集的拒答率异常升高时，往往预示文档索引出现了更新滞后（p=0.87）。该指标现已被纳入监控系统，成为知识库刷新周期的触发信号之一。

延伸思考：何时需要人工介入

虽然自动化评测能覆盖 80% 的常规场景，但以下情况仍需专家参与： - 涉及专业领域细微差别的评判（如法律条款解释） - 评估模型在对抗性提问下的稳定性 - 验证多模态文档（图文混排）的理解能力