【AI 学习】- 从零学 AI 工程：503 课课程地图

一张地图，从线性代数一路走到自主集群。503 课、20 阶段、完全免费、开源（MIT）。

AI Engineering from Scratch（作者 Rohit Ghumare）是一份免费开源的全栈 AI 课程：503 门课、20 个阶段、约 320 小时，覆盖 Python / TypeScript / Rust / Julia 四种语言。它不是视频教程，也不是手把手 demo——每门课都遵循同一条主线：从原始数学开始，把算法亲手构建出来。

这篇是把整份课程摊开成一张地图：怎么学的循环、每个阶段依赖什么、20 个阶段分别学什么，以及本站已连载的中文版 LLM 系列。

怎么学：五步循环

每门课程都是一个闭环，没有五分钟切片、没有粘贴式部署：

阅读问题 —— 先面对一个具体的痛点，而不是一个抽象话题
推导数学 —— 从原始公式开始，理解它为什么成立
编写代码 —— 用 Python 从零实现，不用框架遮住细节
运行测试 —— 验证实现确实工作
保留成果 —— 每课都产出一个可复用的 prompt / skill / agent / MCP 服务器

等到 PyTorch 出场时，你已经知道它底层在做什么了。

单门课的内部结构：六个节拍

每门课都按这六个节拍组织——动手构建 / 实际应用 的拆解是主干：先自己写小版本，再用生产库跑同样的东西。

flowchart LR
  M["格言
_{一行核心理念}"] --> Pr["问题
_具体痛点"]
  Pr --> C["概念
_{图表与直觉}"]
  C --> B["动手构建
_{原始数学，无框架}"]
  B --> U["实际应用
_{用 PyTorch / sklearn 做同样的事}"]
  U --> S["交付成果
_{prompt · skill · agent · MCP}"]

课程结构：20 阶段的依赖图

二十个阶段层层叠加。数学是底层，Agent 与生产是顶层。 底层如果跳过，顶层的坑会回来找你。

flowchart TB
  P0["阶段 0 — 设置与工具"] --> P1["阶段 1 — 数学基础"]
  P1 --> P2["阶段 2 — 机器学习基础"]
  P2 --> P3["阶段 3 — 深度学习核心"]
  P3 --> P4["阶段 4 — 计算机视觉"]
  P3 --> P5["阶段 5 — NLP"]
  P3 --> P6["阶段 6 — 语音与音频"]
  P3 --> P9["阶段 9 — 强化学习"]
  P5 --> P7["阶段 7 — Transformer"]
  P7 --> P8["阶段 8 — 生成式 AI"]
  P7 --> P10["阶段 10 — 从零构建 LLM"]
  P10 --> P11["阶段 11 — LLM 工程"]
  P10 --> P12["阶段 12 — 多模态"]
  P11 --> P13["阶段 13 — 工具与协议"]
  P13 --> P14["阶段 14 — Agent 工程"]
  P14 --> P15["阶段 15 — 自主系统"]
  P15 --> P16["阶段 16 — multi-agent 与集群"]
  P14 --> P17["阶段 17 — 基础设施与生产"]
  P15 --> P18["阶段 18 — 伦理与对齐"]
  P16 --> P19["阶段 19 — 毕业设计"]
  P17 --> P19
  P18 --> P19

20 阶段总览

#	阶段	课数
0	设置与工具	12
1	数学基础	22
2	机器学习基础	18
3	深度学习核心	13
4	计算机视觉	28
5	NLP：从基础到进阶	29
6	语音与音频	17
7	Transformer 深入解析	14
8	生成式 AI	14
9	强化学习	12
10	从零构建 LLM	22
11	LLM 工程	17
12	多模态 AI	25
13	工具与协议	23
14	Agent 工程	42
15	自主系统	22
16	multi-agent 与集群	25
17	基础设施与生产	28
18	伦理、安全与对齐	30
19	毕业设计	85

本博客的中文 LLM 系列（阶段 10）

阶段 10「从零构建 LLM」是整套课程里中文翻译最完整的一块。本站已把它全部连载为 【大模型】系列，共 24 篇，从分词器一路到梯度检查点：

展开查看 24 篇目录

01 Tokenizer · 02 从零构建 Tokenizer · 03 数据管道 · 04 预训练 Mini-GPT · 05 分布式训练 · 06 指令微调(SFT) · 07 RLHF · 08 DPO · 09 Constitutional AI · 10 评估 · 11 量化 · 12 推理优化 · 13 完整 LLM 管道 · 14 开源模型架构 · 15 推测解码 EAGLE-3 · 16 差分注意力 v2 · 17 原生稀疏注意力 · 18 多 Token 预测 · 19 DualPipe 并行 · 20 DeepSeek-V3 · 21 Jamba · 22 异步 Hogwild 推理 · 23 推测解码 · 24 梯度检查点

从哪里开始

零基础 → 阶段 0 → 1 → 2：环境、数学、机器学习基础
有 ML 基础、想直接上手大模型 → 阶段 7 → 10：Transformer → 从零构建 LLM
搞应用/Agent → 阶段 11 → 13 → 14：LLM 工程 → 工具与协议 → Agent 工程
想刷完 → 按依赖图自上而下，不要跳层

课程本身全免费：官方站点 aiengineeringfromscratch.com，代码与全部课程见 GitHub 仓库（MIT License，可自由学习、教学、再发布）。

📚 本文改编自 AI Engineering from Scratch（MIT License · 作者 Rohit Ghumare），中文内容来自官方中文镜像。原课程共 503 课 · 20 阶段 · 免费开源。