大模型评测常用数据集
·
一、通用百科知识(英/中)
- MMLU(Massive Multitask Language Understanding)[Hendrycks et al., 2021] — 57学科(STEM/人文/社科/医学等)多选,测跨学科世界知识,最经典的知识广度基准。
- MMLU-Redux(Gema et al., 2025)— MMLU 的去噪修正版,剔除歧义和错误标注题目,结果更可靠。
- MMLU-Pro(Wang et al., 2024)— MMLU 升级版:选项4→10个、增难度和多步推理题、去噪声,更考验推理而非纯记忆。
- C-Eval(Huang et al., 2023)— 中文综合知识基准,52科(高考/公考/大学),测中文语境下的知识与推理。
- CMMLU(Li et al., 2024)— 中文版 MMLU,67个主题含中国文化/常识,专门评估中文基座模型。
二、指令遵循 & 格式约束
- IFEval(Zhou et al., 2023b)— Instruction-Following Evaluation,测试模型能否遵守"禁用某些词/限定句数/输出JSON/包含关键词"等多重格式约束,测指令顺从度。
三、长文档理解与事实性
- FRAMES(Krishna et al., 2024)— 需跨多段检索+推理的长文档问答,测长上下文检索与综合推理能力。
- SimpleQA(OpenAI, 2024a)— 4326道简短事实性问题(有唯一可验证答案),专门测抗幻觉/事实准确率,GPT-4o 也仅~38%。
- C-SimpleQA(He et al., 2024)— SimpleQA 的中文等价版,测中文事实性/抗幻觉。
四、高阶科学推理
- GPQA Diamond(Rein et al., 2023)— 研究生级生物/物理/化学推理(Diamond子集198题),Google-proof设计,需真正理解才能作答,人类博士生约81%。
五、代码能力
- SWE-Bench Verified(OpenAI, 2024b)— SWE-bench 人工核验子集,给 GitHub issue 让模型修真实 bug,测软件工程级编码能力。
- Aider(Gauthier, 2025)— 用 Aider 工具辅助完成代码编辑/重构任务,测 AI 辅助编程场景下的代码修改能力。
- LiveCodeBench(Jain et al., 2024)(2024-08~2025-01)— 动态更新的算法竞赛题(去污染),测代码生成+调试,避免训练数据泄露。
- Codeforces(Mirzayanov, 2025)— Codeforces 竞赛题目,按难度分级测算法竞赛级编程能力。
六、数学推理
- AIME 2024(American Invitational Mathematics Examination)— 美国数学邀请赛真题,需多步符号推理,推理模型核心指标。
- CNMO 2024(Chinese National High School Mathematics Olympiad)— 中国高中数学奥林匹克题,测中文数学竞赛推理。
归纳:这套 benchmark 组合分别验证模型在——英/中文百科知识(MMLU系/C-Eval/CMMLU) → 指令遵循(IFEval) → 长文理解+事实性(FRAMES/SimpleQA/C-SimpleQA) → 博士级推理(GPQA) → 代码生成与工程修复(SWE-Bench/Aider/LiveCodeBench/Codeforces) → 奥数级数学推理(AIME/CNMO)——六个维度的能力,是目前顶会论文(DeepSeek、Qwen、Claude等)最常用的综合评测套餐。
更多推荐


所有评论(0)