Files
my-vault/01_Projects/Personal-Tech/LLM_Evaluation/README.md
T

64 lines
3.7 KiB
Markdown
Raw Blame History

This file contains ambiguous Unicode characters
This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.
---
type: moc
tags:
- llm-evaluation
- learning-zone
- moc
status: active
created: 2026-08-21
---
# LLM 评测学习专区
> 这个专区的目的不是收藏大量 AI 资料,而是循序建立一项工程能力:**把模糊的产品期待变成可复现的判定系统,并能够诊断失败、验证改进与防止回归。**
## 先怎么使用
请不要按文件夹顺序随机阅读。第一次学习建议走下面这条主线:
```text
理解为什么
→ 填写一份最小工作表
→ 做完第一个 10-case 小项目
→ 再进入完整工程路线
```
| 顺序 | 阅读材料 | 解决的问题 | 完成标志 |
|---:|---|---|---|
| 1 | [[00-Home-Navigation/00-Start-Here]] | 我究竟在学什么,如何不被概念和工具淹没? | 能复述学习主线。 |
| 2 | [[01-Why/01-Why-Guide]] | 为什么先做 case、rubric、盲评、run、失败分类与回归? | 能解释每个动作在防什么问题。 |
| 3 | [[02-Roadmap-Worksheets/01-First-Week-Worksheet]] | 今天应该写什么,卡住时怎样缩小范围? | 完成任务边界、10 个 case 与 rubric v0.1。 |
| 4 | [[03-Project-Practice/00-Project-Practice-Entry]] | 如何把工作表变成自己的项目仓库? | 开始一个最小项目并保存第一个 run。 |
| 5 | [[02-Roadmap-Worksheets/02-LLM-Evaluation-Roadmap]] | 怎样逐步走向 Judge、Agent、安全、数据资产与 CI? | 为自己选择一个 12 周内的下一阶段。 |
> **数量口径:** 首周最低完成 10 个 case;若时间充裕,按路线图 Day 1 扩展至 20 个(结构见《首周工作表》第 2 节)。
## 目录结构为何这样设计
| 目录 | 放什么 | 不放什么 | 设计原因 |
|---|---|---|---|
| `00-Home-Navigation` | 学习入口、进度、阅读路线 | 长篇理论或项目原始数据 | 让你每次打开专区都能立刻知道下一步。 |
| `01-Why` | 心智模型、概念解释、决策理由 | 复杂工具的操作手册 | 入门时最缺的是判断,不是框架。 |
| `02-Roadmap-Worksheets` | 可执行路线、清单、模板、阶段性任务 | 一次性运行结果 | 将原则转成动作,且便于反复使用。 |
| `03-Project-Practice` | 每个亲自完成的 Eval 项目、实验记录、复盘 | 通用学习材料 | 学习材料与个人证据分离,项目才不会被笔记淹没。 |
| `04-Reference-Archive` | 旧大纲与参考草案(职业定位原文存于 02_Areas/Job) | 正在执行的任务 | 保留来路和背景,但不干扰当前学习。 |
| `99-Attachments` | 外部 PDF、截图、数据文件等二进制附件(也可统一放全库 `05_Attachments` | 主笔记 | 保持 Markdown 笔记可搜索、可链接、可版本控制。 |
## 三条使用规则
> **规则一:先写再读。** 每读完一个核心概念,都回到工作表写一项内容;只读不写容易产生“我已经会了”的错觉。
> **规则二:项目笔记不放在通用材料旁。** 每个项目单独放入 `03-Project-Practice/项目名/`,防止模板、原理和实际 run 混在一起。
> **规则三:只要改变了 case、rubric、prompt、模型或文档版本,就记一条实验日志。** 日志不必长,但要说明改了什么、为什么改、预期影响和实际结果。
## 你的当前入口
打开 [[00-Home-Navigation/00-Start-Here]],完成其中的十分钟动作;完成后再填写 [[02-Roadmap-Worksheets/01-First-Week-Worksheet]]。
## 关联材料
- 职业与岗位背景:[[02_Areas/Job/llm_data_annotation_programmer_roadmap|大模型数据标注与程序员入门]](原文存于 02_Areas/Job
- 入门认知草案:[[04-Reference-Archive/02-Intro-Cognitive-Framework-Draft]]
- 路线图重构草案:[[04-Reference-Archive/03-Roadmap-Refactor-Outline-Draft]]