一、通用百科知识(英/中)

  1. MMLU(Massive Multitask Language Understanding)[Hendrycks et al., 2021] — 57学科(STEM/人文/社科/医学等)多选,测跨学科世界知识,最经典的知识广度基准。
  2. MMLU-Redux(Gema et al., 2025)— MMLU 的去噪修正版,剔除歧义和错误标注题目,结果更可靠。
  3. MMLU-Pro(Wang et al., 2024)— MMLU 升级版:选项4→10个、增难度和多步推理题、去噪声,更考验推理而非纯记忆。
  4. C-Eval(Huang et al., 2023)— 中文综合知识基准,52科(高考/公考/大学),测中文语境下的知识与推理。
  5. CMMLU(Li et al., 2024)— 中文版 MMLU,67个主题含中国文化/常识,专门评估中文基座模型。

 二、指令遵循 & 格式约束

  • IFEval(Zhou et al., 2023b)— Instruction-Following Evaluation,测试模型能否遵守"禁用某些词/限定句数/输出JSON/包含关键词"等多重格式约束,测指令顺从度。

 三、长文档理解与事实性

  1. FRAMES(Krishna et al., 2024)— 需跨多段检索+推理的长文档问答,测长上下文检索与综合推理能力。
  2. SimpleQA(OpenAI, 2024a)— 4326道简短事实性问题(有唯一可验证答案),专门测抗幻觉/事实准确率,GPT-4o 也仅~38%。
  3. C-SimpleQA(He et al., 2024)— SimpleQA 的中文等价版,测中文事实性/抗幻觉。

 四、高阶科学推理

  • GPQA Diamond(Rein et al., 2023)— 研究生级生物/物理/化学推理(Diamond子集198题),Google-proof设计,需真正理解才能作答,人类博士生约81%。

 五、代码能力

  1. SWE-Bench Verified(OpenAI, 2024b)— SWE-bench 人工核验子集,给 GitHub issue 让模型修真实 bug,测软件工程级编码能力。
  2. Aider(Gauthier, 2025)— 用 Aider 工具辅助完成代码编辑/重构任务,测 AI 辅助编程场景下的代码修改能力。
  3. LiveCodeBench(Jain et al., 2024)(2024-08~2025-01)— 动态更新的算法竞赛题(去污染),测代码生成+调试,避免训练数据泄露。
  4. Codeforces(Mirzayanov, 2025)— Codeforces 竞赛题目,按难度分级测算法竞赛级编程能力。

六、数学推理

  1. AIME 2024(American Invitational Mathematics Examination)— 美国数学邀请赛真题,需多步符号推理,推理模型核心指标。
  2. CNMO 2024(Chinese National High School Mathematics Olympiad)— 中国高中数学奥林匹克题,测中文数学竞赛推理。

 

归纳:这套 benchmark 组合分别验证模型在——英/中文百科知识(MMLU系/C-Eval/CMMLU) → 指令遵循(IFEval) → 长文理解+事实性(FRAMES/SimpleQA/C-SimpleQA) → 博士级推理(GPQA) → 代码生成与工程修复(SWE-Bench/Aider/LiveCodeBench/Codeforces) → 奥数级数学推理(AIME/CNMO)——六个维度的能力,是目前顶会论文(DeepSeek、Qwen、Claude等)最常用的综合评测套餐。

 

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐