---
type: reference
tags:
  - llm-evaluation
  - evaluation-guidebook
  - yearly-dives
status: active
created: 2026-08-21
source: https://github.com/huggingface/evaluation-guidebook
---

# Yearly Dives —— 年度深度文章（2023–2025）

> 本页提炼自 HuggingFace Evaluation Guidebook 的 `yearly_dives/` 三个文件（2023 / 2024 / 2025 各一篇年度深度文章），用中文概括其核心观点、数据与讨论话题。文中保留原文的具体链接、论文、模型名、benchmark 名与关键数字，**不补充原文没有的内容**；论文编号（如 2302.04844）均为 arXiv 号，链接统一放在各条目内。回到原文请见文末「参考资料」。

## 2023：开源 LLM 之年（Year of open LLMs）

> 原文：`yearly_dives/2023-year-of-open-source.md`，首发于 HuggingFace 博客 [2023-in-llms](https://huggingface.co/blog/2023-in-llms)。

### 写作背景与立场

- Hugging Face 关注开源模型，因为开源让研究可复现、让社区能参与 AI 开发、便于审查模型偏见与局限，并通过复用 checkpoint 降低领域整体碳排放（[更多好处见论文 2302.04844](https://huggingface.co/papers/2302.04844)）。
- 范围说明：本文**不讨论代码模型**。
- 文章目标：做一次开源 LLM 的年度回顾（retrospective）。

### 预训练大模型的"配方"（Recipe）

先讲清楚"大模型从哪来"（熟悉可跳过）：

- **架构（architecture）**：模型的具体实现与数学形态——所有参数及其与输入交互的方式。当下大多数高性能 LLM 都是 decoder-only Transformer 的变体（[原始 Transformer 论文 1706.03762](https://huggingface.co/papers/1706.03762)）。
- **训练数据集**：模型学习的全部样本与文档，决定了学到的具体模式。内容通常是自然语言（法/英/中文等）、编程语言（Python、C 等）、或任何可用文本表达的结构化数据（markdown/latex 表格、公式等）。
- **分词器（tokenizer）**：把文本转成数字的方式，切成 token（词、子词或字符）。词表大小通常 32k–200k。数据集规模常用 token 数衡量，如今从数千亿到数万亿 token。
- **训练超参数**：决定模型如何学习——参数该为每个新样本变多少？模型该多快更新？
- 选定后还需要：① 大量算力 ② 负责训练与监控的（善良且称职的）人。
- 训练产物是**权重（weights）**——即人们讨论"开源预训练模型"时通常指的东西；权重用于**推理（inference）**（对新输入做预测、生成文本）。
- 预训练后可做**微调（fine-tuning）**：在更小、更专业的数据上继续训练以适配特定应用。成本（算力/金钱/环境）远低于从零训练——这正是高质量开源预训练模型价值巨大的原因：算力有限的从业者也能自由使用和基于它构建。

### 2022：从"规模竞赛"到"数据竞赛"

#### 2022 年及以前的开源模型格局

- 直到 2022 年初，ML 的趋势是：模型越大（参数越多）性能越好；超过特定规模阈值后能力跃升——两个概念被命名为 `emergent abilities`（涌现能力）与 `scaling laws`（缩放定律）。
- 2022 年发布的开源预训练模型族基本遵循这一范式，具体如下表：

| 模型族 | 发布方 | 最大规模 | 训练数据 | 要点 |
|---|---|---|---|---|
| BLOOM | BigScience（HF 协调） | 176B 参数 | 350B token，46 种人类语言 + 13 种编程语言 | 当时最大开源多语言模型 |
| OPT | Meta | 175B 参数 | 180B token，多数公开来源 | 性能与 GPT-3 相当，算力更省 |
| GLM-130B | 清华 + 智谱 AI | 130B 参数 | 400B token（The Pile、Wudao 等中英数据） | 性能与 GPT-3 相当 |
| Galactica | Meta | 最高 120B | 106B token 科学文献 | 面向科学的专业模型 |
| GPT-NeoX-20B | EleutherAI | 20B | 500B token | 架构/权重/数据全开源 |

- **BLOOM**（[论文 2211.05100](https://huggingface.co/papers/2211.05100)）：BigScience 是约 1000 名研究者、60 国、250 机构参与的合作项目，与法国 GENCI/IDRIS 合作。decoder-only + 微小改动（post embedding normalization、ALiBi 位置编码）。大部分训练数据连同来源、策展、处理细节一起公开。
- **OPT**（[论文 2205.01068](https://huggingface.co/papers/2205.01068)）：decoder-only，沿用 GPT-3 论文技巧（特定权重初始化、pre-normalization），注意力改为 dense 与 locally banded attention 交替；数据来自图书、Reddit、新闻、Wikipedia 等。
- **GLM-130B**（[论文 2210.02414](https://huggingface.co/papers/2210.02414)）：full transformer + DeepNorm post-layer-normalization + rotary embeddings；数据含 The Pile、Wudao Corpora 及其他中文语料。
- **Galactica** 与 **GPT-NeoX-20B**：多为研究目的发布（GPT-NeoX 提供完整科研产物，RoPE + 注意力/初始化改动）。
- **昂贵的大模型**：100B 参数模型加载通常需约 **220GB 内存**，绝大多数组织与从业者无法企及。

#### Chinchilla 范式转变

- 2022 年 3 月 DeepMind 论文（[2203.15556](https://huggingface.co/papers/2203.15556)）研究：给定算力预算，token 数与参数数的最优比例是多少？
- 结论：对平均算力预算，模型应**更小但训练数据更多**。
- 其模型 Chinchilla（不开源）：70B 参数（约为上述模型的 1/3），却训练在 1.4T token（3–4 倍数据），性能持平或更好。
- 这一转变"席卷"了开源科学社区（闭源实验室或许早已知道）。

### 2023：开源发布之年

#### 小型 LLM 的崛起

- 2023 年出现一波 decoder transformer 浪潮，新预训练模型从每月、到每周甚至每天发布：

| 月份 | 模型 / 发布方 |
|---|---|
| 2 月 | LLaMA（Meta） |
| 4 月 | StableLM（StabilityAI）、Pythia（EleutherAI） |
| 5 月 | MPT（MosaicML） |
| 6 月 | X-GEN（Salesforce）、Falcon（TIIUAE） |
| 7 月 | Llama 2（Meta） |
| 8 月 | StableLM v2（StabilityAI） |
| 9 月 | Qwen（阿里）、Mistral（Mistral.AI） |
| 11 月 | Yi（01-ai） |
| 12 月 | DeciLM（Deci）、Phi-2、SOLAR（Upstage） |

- 共同点：a) 发布权重（许可证开放程度不一）b) 小尺寸（3B–70B）性能良好，被社区迅速采用。
- 架构共性：几乎都是 decoder transformer 变体（ALiBi/RoPE、RMS pre-normalization、SwiGLU），注意力有 Flash-Attention、GQA、sliding windows 等改动，代码库实现各异（优化训练或推理速度）。
- 既然架构与权重都公开，核心差异只剩**训练数据与许可证**。

#### 主要模型逐个看

- **LLaMA**（Meta AI，[论文 2302.13971](https://huggingface.co/papers/2302.13971)）：在给定算力预算下追求最佳性能；首次显式同时考虑训练预算与**推理成本**——用更小模型 + 更多数据 + 更多训练步数换更高性能（牺牲训练算力效率）。最大 65B / 1.4T token，6B 与 13B / 1T token。13B 在多数 benchmark 上超过 GPT-3，最大版本发布时 SOTA。但权重为**非商用许可证**，限制了社区采用。
- **Pythia**（EleutherAI，[论文 2304.01373](https://huggingface.co/papers/2304.01373)）：不同尺寸的[模型套件](https://huggingface.co/collections/EleutherAI/pythia-scaling-suite-64fb5dfa8c21ebb3db7ad2e1)，完全公开数据训练，用于研究 LLM 训练各阶段。
- **MPT**（MosaicML，[博客](https://www.mosaicml.com/blog/mpt-7b)）：性能接近但**许可证允许商用**，且公开训练数据构成。首个 [7B](https://huggingface.co/mosaicml/mpt-7b)，6 月跟进 30B，均 1T token（C4、CommonCrawl、The Stack、S2ORC）。
- **Falcon**（TIIUAE）：[7B/30B](https://huggingface.co/tiiuae/falcon-7b)，1–1.5T token 英语与代码（RefinedWeb、Project Gutenberg、Reddit、StackOverflow、GitHub、arXiv、Wikipedia 等），年底发布 180B。数据与训练流程有技术报告及[后续论文 2311.16867](https://huggingface.co/papers/2311.16867)。
- **StableLM**（StabilityAI）：继承 GPT-NeoX，3B/7B，1.5T token（ThePile 实验数据集）；v2 系列混入 RefinedWeb、RedPajama、ThePile 及未公开数据；另有 3B 的 [StableLM-3B-4e1T](https://huggingface.co/stabilityai/stablelm-3b-4e1t) + [详细技术报告](https://stability.wandb.io/stability-llm/stable-lm/reports/StableLM-3B-4E1T--VmlldzoyMjU4?accessToken=u3zujipenkx5g7rtcj9qojjgxpconyjktjkli2po09nffrffdhhchq045vp0wyfo)。
- **转折点**：早期发布公开数据；此后发布几乎**不提供训练数据信息、不可复现**，但通过权重为社区提供起点。
- **X-Gen**（Salesforce，[论文 2309.03450](https://huggingface.co/papers/2309.03450)）：7B，1.5T token "natural language and code"，分步训练 + 数据调度（不是所有数据同时进入）。
- **LLaMA-2**（Meta，[论文 2307.09288](https://huggingface.co/papers/2307.09288)）：7–70B，2T token "公开来源"，permissive 社区许可证 + 大规模 RLHF 人类偏好微调（alignment）。安全是突出卖点。
- **Mistral-7B**（新创公司 Mistral，[论文 2310.06825](https://huggingface.co/papers/2310.06825)）：训练 token 数与来源未公开（"extracted from the open Web"）。年底另有更大尺寸的 **Mixtral 8x7B**。
- **DeciLM**（Deci.AI）与 **SOLAR 10.7B**（Upstage）：同样未公开数据来源与数量；这些模型在排行榜与开源 benchmark 上稳步提升。
- **中国模型的崛起**：年底一批双语（中英）开源模型性能领先——**Qwen**（阿里，[论文 2309.16609](https://huggingface.co/papers/2309.16609)，7–70B，2.4T token）、**Yi**（01-AI，6–34B，3T token），在 [Open LLM Leaderboard](https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard) 与最难的 benchmark（如 [Skill-Mix 2310.17567](https://huggingface.co/papers/2310.17567)）上都更进一步；**DeepSeek** 编码模型从零训练，2T token，87% 代码 + 13% 中英自然语言（基本是代码模型）。

#### 对话模型遍地开花

- 相比 2022，2023 年几乎所有预训练模型都同时发布对话微调版本，凸显大众对 chat 模型的使用增长，以及"聊天式手工评测（vibe-check）"的流行。
- 主要适配方法（变体很多）：

| 方法 | 原理 | 特点/成本 |
|---|---|---|
| Chat-based fine-tuning | 在对话数据（多轮、社交网络风格）上监督微调，decoder 逐 token 自回归 | 实现简单，需对话数据集 |
| Instruction fine-tuning（IFT） | 用指令数据集（query + 答案）教模型遵循指令 | 数据可人工或 LLM 生成 |
| 蒸馏（distillation） | 用高性能模型（如 GPT-4）的输出做合成数据集再微调 | 大规模合成数据的常用方式 |
| RLHF | 生成多答案 → 人类排序 → 训练偏好模型 → 强化学习微调 | 成本高，多用于安全对齐 |
| RLAIF | 用高质量 LLM 而非人类排序 | RLHF 的廉价变体 |
| DPO | 直接优化：对齐模型同时就是偏好模型，用偏好数据更新 | 无单独偏好模型，性能相当 |

- 参考资料：对话/指令微调入门见 [dialog-agents 博客](https://huggingface.co/blog/dialog-agents)；RLHF 见 [RLHF 博客](https://huggingface.co/blog/rlhf)、[原始 RLHF 论文 1909.08593](https://huggingface.co/papers/1909.08593)、[Anthropic RLHF 论文 2204.05862](https://huggingface.co/papers/2204.05862)。
- 落地情况：MPT-7B 有 instruct 与 chat 版，Falcon、XGen 年末出 instruct 版，Llama-2、Qwen、Yi 有 chat 版，DeciLM 有 instruct 版。

#### 社区做了什么

围绕基础模型，微调社区在 Reddit、Discord、HF Hub、Twitter 上自发繁荣；社区模型发布频繁，同时催生大量新数据集。

**早期（2023 年初前）的数据集**

- 人类偏好类：WebGPT（OpenAI）、HH-RLHF（Anthropic）、Summarize（OpenAI）。
- 指令类：P3（BigScience，Public Pool of Prompts）、FLAN 1/2（Google）、Natural Instructions（AllenAI）、Self Instruct（自动生成指令框架）、SuperNatural instructions（专家构建，常作微调数据）、Unnatural instructions（特拉维夫大学 + Meta 自动生成）。

**2023 全年社区事件时间线**

| 季节 | 事件 / 数据集 / 模型 |
|---|---|
| ❄️ 冬（2022/23） | 1 月 HC3（人类 vs 模型回答）；3 月 Alpaca（Stanford，52K 指令）、OIG（LAION，43M 指令）、Vicuna（LMSYS，ShareGPT 对话）、Guanaco（+500K 多语言条目） |
| 🌱 春 | 4 月 Koala（BAIR）、Dolly（DataBricks，15K 人工指令）；5 月 UltraChat（1.5M 对话）与 UltraLLaMA、GPT4-LLM；6 月 Orca（推理轨迹构造指令）、Open Orca、Camel-AI 多主题数据集、Airoboros 框架 |
| 🌻 夏 | 8 月 UltraLM（OpenBMB）；9 月 UltraFeedback（GPT-4 标注偏好）、OpenChat（清华，新 RL 策略）、Intel orca_dpo_pairs；夏天 NousResearch 多个微调（Hermes、Capybara） |
| 🍂 秋 | 10 月 Zephyr（HF，DPO + AIF）、OpenHermes 2（900K 条目）、LMSYS-Chat-1M（25 个 LLM 真实对话）；11 月 OpenBuddy-Zephyr、Notus（Argilla）、HelpSteer（NVIDIA）、Orca-2（Microsoft）、Neural Chat（Intel）；12 月 Starling（Berkeley，RLAIF）+ Nectar（200K 对比） |

- 细节补充（冬季）：Alpaca 是第一个指令跟随 LLaMA（7B），52K 条 LLM 生成指令；Vicuna（13B）用 ShareGPT 上用户分享的 ChatGPT 对话微调。
- 细节补充（春季）：Koala 用 Alpaca/HH-RLHF/WebGPT/ShareGPT 微调；Orca 方法很快被社区复现为 Open Orca（数百万条，用于微调 Llama、Mistral 等）。
- 细节补充（夏季）：UltraFeedback 是 GPT-4 标注的偏好数据集；Intel 发布 Orca 风格 DPO 数据集。
- 细节补充（秋季）：Zephyr 是 Mistral 在 UltraChat/UltraFeedback 上用 DPO + AIF 微调；Notus 是 Zephyr 的 DPO 微调；HelpSteer 提供 prompt + 回答 + 多标准打分；Orca-2 是 Llama 2 + 新合成推理数据集。
- 专项数据集（不展开）：MetaMath、MathInstruct、Evol-Instruct、CodeAlpaca、CodeCapybara 等；汇总见 [awesome instruction datasets](https://github.com/jianzhnie/awesome-instruction-datasets)。

### 民主化访问（Democratizing access）

- 注：llama.cpp、ollama、text-generation-inference、vllm 等推理/部署工具不在本文范围。

#### 模型合并（Model merging）：极致定制

- 定义：把多个模型权重融合成一个，理想情况结合各自优势。
- 方法：简单平均共同架构模型的参数（[例 1 2204.03044](https://huggingface.co/papers/2204.03044)、[例 2 2109.01903](https://huggingface.co/papers/2109.01903)）；更复杂的有按任务加权平均（[2111.09832](https://huggingface.co/papers/2111.09832)）、考虑参数间干扰再选择的 ties merging（[2306.01708](https://huggingface.co/papers/2306.01708)）。
- 综述见 [model merging 论文集合](https://huggingface.co/collections/osanseviero/model-merging-65097893623330a3a51ead66)。
- 后果：Open LLM Leaderboard 上出现 `llama2-zephyr-orca-ultra` 这类名字；数据与模型历史难追踪（参见 Mistral 的 [child models tree](https://huggingface.co/spaces/davanstrien/mistral-graph)）。
- 这是"完全去中心化研究"的典型：方法多发表在社区论坛，由全球实践者/研究者/爱好者共同推进。

#### PEFT：指尖上的个性化

- 定义：冻结预训练模型参数，在其上加少量新参数（adapters），只训练轻量 adapter。
- 好处：内存不够加载整个模型微调时也能个性化；共享时只需共享 adapter + 基础模型。
- 方法列表见 [huggingface/peft](https://github.com/huggingface/peft)。

#### 量化（Quantization）：模型随处可跑

- 背景：30B 模型仅加载就需 66G+ RAM，不是人人都有这样的硬件。
- 原理：降低参数精度（float32/float16/int8 等）减小体积与内存；精度越低内存越小，但计算精度降低可能损伤性能——大模型上性能损失通常很[有限](https://huggingface.co/blog/overview-quantization-transformers)。
- 数字示例（30B 模型）：float16 略小于 66G RAM，8bit 约 33G，4bit 约 16G。
- 常用方法：bitsandbytes（[2208.07339](https://huggingface.co/papers/2208.07339)）、GPTQ（[2210.17323](https://huggingface.co/papers/2210.17323)）、AWQ（[2306.00978](https://huggingface.co/papers/2306.00978)）。
- 社区角色：如 [TheBloke](https://huggingface.co/TheBloke) 专门把流行模型转成低精度版本供社区使用。
- 原文评价：这些方法都很新、仍在发展，期待更多进展。

### 接下来是什么？（2023 年底）

- **MoE（混合专家）**：**Mixtral** 由 8 个子模型（transformer decoder）组成，router 为每个输入挑选 2 个最优子模型并求和输出。
- **状态空间模型**（通过潜在空间做输入输出映射，可表达为 RNN 或 CNN；入门见 [Annotated S4](https://srush.github.io/annotated-s4/)）：
  - **Mamba**（[2312.00752](https://huggingface.co/papers/2312.00752)）：状态空间模型 + 选择机制。
  - **Striped Hyena**（[HF 模型页](https://huggingface.co/togethercomputer/StripedHyena-Nous-7B)）：状态空间模型 + 快速卷积核。
- 是否取代 Transformer 还太早下结论，但状态空间模型很有前景。

### Takeaways（要点）

1. 各类参与者（大公司、初创、研究实验室）的开源发布大幅增长，社区以前所未有的速度实验与探索。
2. 开放性有起有伏：年初发布很开放（数据构成、权重、架构），年末发布对训练数据讳莫如深、不可复现。
3. 开源模型从许多新地方涌现，包括中国，多个新参与者成为强竞争者。
4. 个性化手段达到新高：RLHF、adapters、模型合并——都还只是开始。
5. 更小模型 + 量化进步让 LLM 真正走近更多人。
6. 新架构出现——它们会最终取代 Transformer 吗？

---

## 2024：聊聊 LLM 评测（ICLR 2024 上的讨论与反思）

> 原文：`yearly_dives/2024-evals-thoughts-from-iclr.md`，首发于 [HuggingFace 博客](https://huggingface.co/blog/clefourrier/llm-evaluation)。

### 背景

- 作者（Hugging Face 评测与排行榜团队成员）在 ICLR 2024 与大量与会者交流后，意识到很多自己"习以为常"的评测观念并不普及且引人兴趣，于是把讨论整理成文。
- 文章的自我定位：把这些对话"更广泛地分享"出来。

### 评测的三种方式

当前主要有三种评测方式：**自动化基准（automated benchmarking）**、**人类作评委（humans as judges）**、**模型作评委（models as judges）**。

| 方式 | 代表做法 | 主要优点 | 主要问题 |
|---|---|---|---|
| 自动化基准 | 任务/能力 + 样本 + 指标 | 便宜、可复现、任务层面有信号 | 污染、能力难定义、评分受 prompt 等细节影响 |
| 人类作评委 | vibe-checks、arena、系统化标注 | 灵活、规避污染、贴近人类偏好 | 贵、小规模不可复现、心理偏差 |
| 模型作评委 | 通用强模型或专用判别模型 | 便宜、可扩展 | 微妙且不可解释的偏差、自偏爱 |

各有其存在理由、用途与局限，下面分述。

### 自动化基准（Benchmarks）

#### 基本构成

- 先定义评测对象：具体**任务**（如"垃圾邮件分类"）或抽象**能力**（如"数学好不好"）。
- 评测由两部分组成：**样本集** + **指标（metric）**。
  - 样本集：输入给模型看输出，必要时带参考（gold）对比；样本通常尽量模拟目标场景（含困难边界用例）。
  - 对 LLM 主要是两种：**生成式评测**（归一化后与参考文本比较）与**多选式评测**（比较 prompt 后各候选续写的相对 log-probability）。
  - 指标：为模型算分的方式（如分类正确率，答对=1、答错=0）。

#### 泛化与过拟合

- 应优先在**未进入训练集**的数据上评测——测试**泛化**能力。
- 只能预测训练数据称 **overfitting（过拟合）**；次极端情况也要测对分布外模式的泛化（如只见过"假银行"垃圾邮件，要能泛化到"保健品"垃圾邮件）。

#### 已知问题

- 对定义明确的任务很有效；LLM 场景的问题：
  - 多选评测中模型会[按选项呈现顺序偏好特定选项](https://arxiv.org/abs/2309.03882)。
  - 生成式评测的归一化[设计不好就不公平](https://huggingface.co/blog/open-llm-leaderboard-drop)。
  - 但任务层面仍有信号。
- 能力很难分解成精确定义的任务（"数学好"指算术、逻辑还是概念推理？），于是做**整体式（holistic）评测**：假定通用样本上的表现是目标能力的**好代理**。
  - 例：GSM8K 是真实高中题，解题需要整套能力，失败与成功都难解释。
  - 更抽象的能力（写诗、答案有用性）更难自动评测；而模型越来越**通才化**，需要更广的评测。
  - 例：学界争论 LLM 到底[会不会画独角兽](https://arxiv.org/abs/2303.12712)——多数情况不会，但值得研究。

#### 污染（contamination）

- 定义：评测数据集进入训练集；被污染的模型 benchmark 分高但泛化差（详述见 [2023.findings-emnlp.722](https://aclanthology.org/2023.findings-emnlp.722/)，趣味检测方法见 [2311.06233](https://arxiv.org/abs/2311.06233)）。
- 缓解手段：
  - BigBench 的 **canary string**（特定字符组合供人识别并剔除），但并非所有人都知道或照做。
  - [加密形式提供](https://arxiv.org/pdf/2309.16575)、[门控访问](https://huggingface.co/datasets/Idavidrein/gpqa)。
  - 但黑盒 API 评测无法保证数据不被内部用于训练/微调。
- 应对：**动态基准**（[2104.14337](https://arxiv.org/abs/2104.14337)，定期刷新数据，在系统性未见的新数据上打分），但长期成本高。

### 人类作评委（Human as a judge）

- 做法：让人类先 prompt 模型，再按指南给模型答案打分或对多个输出排序。
- 优点：可评测更复杂开放的任务、比自动指标灵活；prompt 是新写的，基本规避污染；与人类偏好天然相关（评的正是这个）。

#### 三种人类评测路径

- **Vibe-checks**：社区成员用未公开 prompt 手工感受模型质量（范围从编码到"烂文质量"，也有人称 canary-testing，取自矿井金丝雀）。
  - 常在 Twitter/Reddit 分享，属轶事证据、易受确认偏差影响（人们往往找到自己想找的）。
  - 但也有系统性做法，如用户 Wolfram Ravenwolf 的[模型对比博客](https://huggingface.co/blog/wolfram/llm-comparison-test-llama-3)。
- **Arena（竞技场）**：用社区反馈做大规模模型排名，如 [LMSYS Chatbot Arena](https://huggingface.co/spaces/lmsys/chatbot-arena-leaderboard)——用户盲聊，发现更好的就投票，投票聚合成 **Elo 排名**。
  - 问题：主观性强，宽泛指南难以让众多社区成员稳定打分。
  - 标注者偏好有[文化差异](https://arxiv.org/abs/2404.16019v1)（不同人偏好不同话题）。
  - 寄望"群众智慧"（Galton 的"猜猪重"统计故事：个体估计围绕真实值呈概率分布）在大规模投票下平滑掉偏差。
- **系统化标注**：给付费精选标注者极具体指南，尽量去除主观偏差（ScaleAI 等标注公司的做法，见 [Scale 指南](https://scale.com/guides/data-labeling-annotation-guide#hight-quality-data-annotations)）。
  - 问题：持续、非自动化地评测会很快变得极贵。
  - 仍可能有人类偏差：[2205.00501](https://arxiv.org/abs/2205.00501) 显示不同身份者对模型答案毒性打分差异很大。

#### 人类评委的已知偏差

- 评测者倾向按**第一印象**而非实际事实性/忠实性估质量（[2309.16349](https://arxiv.org/pdf/2309.16349)）：
  - 众包标注者对语气敏感、会低估自信语气答案中的事实/逻辑错误。
  - 模型用自信语气说错话，人类更不容易察觉，评分会偏向更"自信"的模型。
  - 专家标注者更不易受影响。
- 人类更偏好**迎合自己观点或与自己的错误一致**的答案，而非事实正确的答案（[2310.13548](https://arxiv.org/pdf/2310.13548)）。
- 启示：需要事实性的任务（写代码、模型知识评测等）不应只依赖众包非专家人工标注，应叠加更稳健的评测方式。

### 模型作评委（Model as a judge）

- 动机：降低人工标注成本。2019 年已有用[模型嵌入测摘要质量](https://arxiv.org/abs/1904.09675)的技术，此思路并不新。
- 两种打分方式：
  - 用**通用高能力模型**（[2306.05685](https://arxiv.org/abs/2306.05685v4)）：与人类偏好相关性好，但够强的模型多为闭源，API 背后会变、不可解释。
  - 用**专门从偏好数据训练的小型判别模型**（[2405.01535](https://arxiv.org/pdf/2405.01535)）。
- 已知局限：
  - 评分时[偏爱自己的输出](https://arxiv.org/abs/2404.13076)。
  - 分数范围不一致（可让模型[先解释推理再打分](https://twitter.com/seungonekim/status/1749289437165769177)改善）。
  - 与人类排名[并不一致](https://arxiv.org/pdf/2308.15812)。
- 作者的个人担忧：模型作评委会在答案选择中引入**微妙且不可解释的偏差**——类比遗传学中过度杂交产生缺陷后代，用 LLM 选择和训练 LLM，很可能在若干代后放大微小变化；小型专用模型（如毒性分类器）风险较低，但尚待严格验证。

### 为什么要做评测？——三个被混淆的目的

作者认为评测有三个**截然不同**的目的，常被混为一谈，各自回答不同问题：

| 目的 | 回答的问题 | 关键做法 | 作者的观点 |
|---|---|---|---|
| 非回归测试 | 我的训练对吗？ | 看分数轨迹与区间 | 不关心精确分数，只要"没坏" |
| 排行榜与排名 | 哪个模型最好？ | 找稳定一致的排名 | 分数不可靠，排名更稳 |
| 领域能力水平 | 我的模型能做 X 吗？ | 定义能力 + 找代理任务 | 目前无法真正评测"通用能力" |

#### 1) 非回归测试（non-regression testing）

- 概念源自软件工程：加新功能或修 bug 后，确认没破坏整体行为。
- 对训练：确认训练设置变更（数据、架构、参数等）没有"破坏"同属性模型的预期性能。
- 看两点：① 分数**轨迹**（是否比开始时好）② 分数**区间**（是否在预期范围）。
  - 例：7B 基础模型 MMLU 预期 50–65；20–30 说明没学到东西。
- 你其实……不关心精确分数。
  - 甚至只看文本 perplexity 变化都可能够。
  - 但通常要"信噪比"高的 benchmark（大分数变化反映大模型变化）。

#### 2) 排行榜与排名（Leaderboards and rankings）

- 作用：排序选型——排行榜第一的不适合你的用例，第二名多半也不行。
- ImageNet 时代的经验论文（[2404.02112](https://arxiv.org/pdf/2404.02112)）主张：分数易不稳定，唯一稳健方式是**排名**，且要找能给出稳定一致排名的**大类评测组**。
- 作者团队也发现：LLM 分数对 prompt 细节[极其敏感](https://huggingface.co/blog/evaluation-structured-outputs)，人类评测也不更一致——而**排名**在稳健评测方法下更稳定。
- ICLR 2024 评测 plenary 上 Moritz Hardt 的扰动实验：
  - 给 Open LLM Leaderboard 做微小分数扰动（在分数区间内）。
  - 给 Chatbot Arena 加一个差选手看 Elo 排名变化。
  - 结论：**两者当前都无法提供稳定一致的排名**（未来版本的 Open LLM Leaderboard 会探索这一点）。

#### 3) 领域整体能力水平？（Can my model do X?）

- "你怎么知道模型能做 X？"是个常见且合理的问题。
- 但对任何复杂能力，目前只能说："该模型在这个任务上最好，而这个任务我们希望是能力的代理，**但没有保证**。"
- ML 领域严重缺乏"能力"的定义与框架（推理、心智理论尤甚）；但这并非 ML 独有——人类/动物研究里定义能力也很难（IQ、EQ 争议不断）。
- 或许该借鉴社会科学（那里习惯严肃对待数据收集与分析中的混淆变量）。
- 但作者也认为：1) 这些宽泛能力可能根本无法定义（人类与动物目前也没定义出来）2) 面向人的框架未必能迁移到模型（底层行为与假设不同）。

### 结论

- 现状归纳：
  - 自动基准：受污染与"不通用"影响（后者未必是坏事，专项评测也有价值）。
  - 人工评测：小规模下可复现性差、总体有心理偏差（如偏好谄媚答案），大样本下或许部分平滑。
  - 模型作评委：偏差微妙，可能悄悄扰动下游。
- 仍有信号：非回归测试（分数落在预期区间）与足够稳定的排名能告诉我们新训练方法/数据集是否有前途；跨主题与任务攒够数据点也能对整体性能有大致把握——但**不能**据此假设任何"通用能力"。
- 与炒作相反，目前**无法**真正评测"通用模型能力"，首先因为还没定义它是什么。
- LLM 评测作为研究领域还处在婴儿期，可从机器学习可解释性（如 [transformer-circuits 的 scaling monosemanticity](https://transformer-circuits.pub/2024/scaling-monosemanticity/index.html)）到社会学跨界汲取灵感，跨学科工作很可能开辟新方向。

### 致谢（提及的交流者）

- Summer Yue（Scale AI）、Moritz Hardt（马普所）、Luca Soldaini 与 Ian Magnusson（Allen AI）、Ludwig Schmidt（Anthropic）、Max Bartolo（Cohere）、Maxime Labonne（Liquid AI）、François Charton（Meta）、Alan Cooney（UK AI Safety Institute）、Max Ryabinin（Together AI）。
- Hugging Face 的 Yacine Jernite、Irene Solaiman 与评测/排行榜团队（尤其 Nathan Habib）。

---

## 2025：评测要超越简单基准，构建真正可用的模型

> 原文：`yearly_dives/2025-evaluations-for-useful-models.md`（原文标题：Evals in 2025: going beyond simple benchmarks to build models people can actually use）。
>
> ⚠️ 本节为旧版详细版的**压缩版**。各能力类别、数据集链接与最新推荐（2025 年 11 月版）见新版 [[08-2025-Edition]] §3（2025 评测全景），以新版为准；本节只保留旧版独有的"核心论点"与各小节一句话摘要，不再重复维护表格。

### 核心论点（旧版独有，简要保留）

- 目标应是构建"**工作得好（work well）**"的模型而非"智能"的模型——对人们有用且高效的工具体现为更好的成功度量。
- 现实依据：Anthropic 经济指数报告与 OpenAI ChatGPT 使用研究显示，LLM 当前最常见的用途是**助手**（写代码、行政支持等）。
- 好助手应做到：处理指令**歧义**、构建**逐步计划**、识别所需**资源**、按需**调用工具**、适应**意外事件**、全程**不胡编**。
- 规模观察：**7B 的模型就能当好 agent 助手**（再小到 3B 以下会碰到能力壁垒）。
- 评测方法需**分层**：开发期测单一能力、现实任务上测集成表现、动态环境中探适应性。

### 各小节摘要（详细内容见 [[08-2025-Edition]] §3）

- **单一能力评测**：推理与常识（ARC/WinoGrande 等历史数据集，只适合消融与预训练）；知识（MMLU 已饱和，改用 GPQA/HLE）；数学（GSM8K/MATH 饱和，预训练用 AIME25+MATH-500、后训练用 Math-Arena）；代码（关注 LiveCodeBench、AiderBench、SWE-Bench verified）；长上下文（NIAH 接近解决，HELMET 有重复计量风险）；指令遵循（IFEval/IFBench，少数不依赖模型评委的严格评测）；工具调用（TauBench/BFCL/MCP 系基准）。
- **助手任务**（下一代评测主流方向）：GAIA/BrowseComp 真实信息检索、SciCode/PaperBench/DABStep 科学助手——设计得够通用时只看最终结果对不对。
- **游戏化评测**：ARC-AGI/TextQuests/Pokemon/Town of Salem，单一 pass/fail 指标；作者建议能力看 TextQuests、安全看 Town of Salem。
- **预测类评测**（本质上无法污染）：FutureBench/FutureX/Arbitrage，但区分度存疑。
- **推荐评测组合**：旧版"2025 年 9 月"版已被新版 §3 的"2025 年 11 月"版取代，直接看 [[08-2025-Edition]] §3 末尾。
- **结语**：领域正从"测孤立技能"走向"测能力编排"，更重视功能性测试而非模型评委。

---

## 参考资料

- 2023 原文（GitHub）：[yearly_dives/2023-year-of-open-source.md](https://github.com/huggingface/evaluation-guidebook/blob/main/yearly_dives/2023-year-of-open-source.md)
- 2023 原文（博客首发）：[2023, year of open LLMs](https://huggingface.co/blog/2023-in-llms)
- 2024 原文（GitHub）：[yearly_dives/2024-evals-thoughts-from-iclr.md](https://github.com/huggingface/evaluation-guidebook/blob/main/yearly_dives/2024-evals-thoughts-from-iclr.md)
- 2024 原文（博客首发）：[Let's talk about LLM evaluation](https://huggingface.co/blog/clefourrier/llm-evaluation)
- 2025 原文（GitHub）：[yearly_dives/2025-evaluations-for-useful-models.md](https://github.com/huggingface/evaluation-guidebook/blob/main/yearly_dives/2025-evaluations-for-useful-models.md)
- 指南仓库：[huggingface/evaluation-guidebook](https://github.com/huggingface/evaluation-guidebook)

相关：[[00-Overview]] · [[07-Resources]] · 新版对应：[[08-2025-Edition]]