AI 辅助中文译文，以英文原文为准 · aiengineeringfromscratch.com
实现模型内部机制、检索流水线和智能体运行时。测试它们，分析故障，并保留代码和评估结果。
**[开始学习](https://aiengineeringfromscratch.com/lesson?path=phases/00-setup-and-tooling/01-dev-environment)** · **[选择学习路径](#learning-routes)** · **[试做实验](#interactive-lab)** · **[构建项目](#project-challenges)** · **[浏览课程目录](#contents)**
免费、开源、MIT 许可。你可以在网站学习、使用编程代理辅助学习，或在本地运行代码。
> 523 节课. 20 个阶段. Python, TypeScript, Rust, Julia.
选择阅读语言
🇬🇧 English · 🇨🇳 简体中文 · 🇹🇼 繁體中文（台灣） · 🇯🇵 日本語 · 🇰🇷 한국어 · 🇵🇹 Português · 🇧🇷 Português (Brasil) · 🇪🇸 Español · 🇩🇪 Deutsch · 🇫🇷 Français · 🇮🇹 Italiano · 🇳🇱 Nederlands · 🇵🇱 Polski · 🇨🇿 Čeština · 🇷🇴 Română · 🇭🇺 Magyar · 🇬🇷 Ελληνικά · 🇸🇪 Svenska · 🇩🇰 Dansk · 🇳🇴 Norsk · 🇫🇮 Suomi · 🇷🇺 Русский · 🇺🇦 Українська · 🇹🇷 Türkçe · 🇮🇱 עברית · 🇸🇦 العربية · 🇮🇷 فارسی · 🇮🇳 हिन्दी · 🇧🇩 বাংলা · 🇵🇰 اردو · 🇹🇭 ไทย · 🇻🇳 Tiếng Việt · 🇮🇩 Bahasa Indonesia · 🇵🇭 Tagalog
### 赞助方
你的支持让每节课都能保持免费和开源。 查看所有支持者 · 成为赞助方
## 学习路线
| 路线 | 起始课程 |
|---|---|
| 模型基础 | [环境设置与工具](https://aiengineeringfromscratch.com/lesson?path=phases/00-setup-and-tooling/01-dev-environment) |
| LLM 系统 | [提示工程](https://aiengineeringfromscratch.com/lesson?path=phases/11-llm-engineering/01-prompt-engineering) |
| 智能体与交付 | [智能体循环](https://aiengineeringfromscratch.com/lesson?path=phases/14-agent-engineering/01-the-agent-loop) |
[比较职业路径](https://aiengineeringfromscratch.com/learning-paths.html) · [先修知识与学习时间](#study-guide)
### 梯度下降
20 个起点在二次损失函数上执行梯度下降。图中显示每次更新后的位置和平均损失。
[在课程中调整学习率](https://aiengineeringfromscratch.com/lesson?path=phases/01-math-foundations/08-optimization#loss-landscape-visualization) · [通过代码比较 GD、动量和 Adam](../../phases/01-math-foundations/08-optimization/code/optimizers.py)
### 项目
三个项目均提供分阶段的起始代码、参考实现和本地评分器。完成[环境设置](#local-setup)后，从仓库根目录运行命令。实现各阶段前，起始代码无法通过检查。
01 · 检索评估实验室 · Python · 排名指标与退化检查
候选系统的平均 NDCG 提高，但某个查询最相关的证据排名下降。构建逐查询比较，报告这种退化，并能使发布检查失败。
使用 Python 3.10+。复习[RAG](../../phases/11-llm-engineering/06-rag/docs/en.md)和[模型评估](../../phases/02-ml-fundamentals/09-model-evaluation/docs/en.md)。依次实现排名验证、精确率与召回率、考虑排名位置的指标，再比较系统。
```bash
python3 scripts/project_test.py retrieval-evaluation-lab \
--init learning-artifacts/retrieval-evaluation-lab
python3 scripts/project_test.py retrieval-evaluation-lab \
--stage 1 --path learning-artifacts/retrieval-evaluation-lab --strict
python3 scripts/project_test.py retrieval-evaluation-lab \
--all --path learning-artifacts/retrieval-evaluation-lab --strict
```
**保留：**可复现的比较结果，包括逐查询差值和评分使用的相关性标注。指标反映的是这些标注，并不能证明答案正确。
[开始项目](https://aiengineeringfromscratch.com/project.html?id=retrieval-evaluation-lab) · [查看参考实现](../../projects/retrieval-evaluation-lab/solution/) · [使用自己的输入运行](../../projects/retrieval-evaluation-lab/README.md#run-with-your-own-inputs)
02 · 智能体追踪调试器 · TypeScript · 追踪解析与耗时分析
提供的追踪仍耗时 100 ms，但总 token 用量增加了 200，且一个跨度开始失败。将重叠的子跨度工作与父跨度自身的执行时间分开，再生成揭示变化的报告。
使用 Node.js 22.18+，并用 Python 3 运行评分器。依次实现 JSONL 解析、父子关系验证、区间计算和可检查的时间线。
```bash
python3 scripts/project_test.py agent-trace-debugger \
--init learning-artifacts/agent-trace-debugger
python3 scripts/project_test.py agent-trace-debugger \
--stage 1 --path learning-artifacts/agent-trace-debugger --strict
python3 scripts/project_test.py agent-trace-debugger \
--all --path learning-artifacts/agent-trace-debugger --strict
```
**保留：**输入追踪、HTML 时间线和 JSON 退化报告。每个跨度只记录自身独占的 token 用量，避免重复计算父子跨度的用量。
[开始项目](https://aiengineeringfromscratch.com/project.html?id=agent-trace-debugger) · [查看参考实现](../../projects/agent-trace-debugger/solution/) · [交互探索耗时](https://aiengineeringfromscratch.com/project.html?id=agent-trace-debugger&stage=03-timing)
03 · 工具调用防火墙 · Rust · 角色检查与批准凭据
写入内容在审查后发生变化，或者同一批准被重放。验证调用封装，检查调用方角色和路径，再消耗绑定到确切请求与内容的批准。
使用 Rust 和 Python 3.10+。复习[工具模式设计](../../phases/13-tools-and-protocols/05-tool-schema-design/docs/en.md)和[安全边界](../../phases/17-infrastructure-and-production/25-security-secrets-audit/docs/en.md)。调用方应用提供身份，模型只提出操作建议。
```bash
python3 scripts/project_test.py tool-call-firewall \
--init learning-artifacts/tool-call-firewall
python3 scripts/project_test.py tool-call-firewall \
--stage 1 --path learning-artifacts/tool-call-firewall --strict
python3 scripts/project_test.py tool-call-firewall \
--all --path learning-artifacts/tool-call-firewall --strict
```
**保留：**显示请求操作和策略决策的审计凭据。批准只能在一次调用中使用一次；本项目不提供持久授权或操作系统沙盒。
[开始项目](https://aiengineeringfromscratch.com/project.html?id=tool-call-firewall) · [查看参考实现](../../projects/tool-call-firewall/solution/) · [探索批准边界](https://aiengineeringfromscratch.com/project.html?id=tool-call-firewall&stage=03-consume-a-request-bound-approval-once)
[浏览全部项目](https://aiengineeringfromscratch.com/projects.html) · [职业实践指南](../../learning-paths/CAREER-PRACTICE.md)
## 选择学习方式
### 在网站上学习
在 [课程网站](https://aiengineeringfromscratch.com)打开任意已完成课程，或从[课程目录](#contents)展开一个阶段。不需要安装，也不需要克隆。
### 使用 AI 导师
如果已安装 Node.js、`npx` 和支持 Agent Skills 的编程智能体，就能让智能体充当你的课程导师。安装和阅读导师技能不要求先克隆仓库；要运行专项路线的实验，则需要 `python3`。Agent Skills 的宿主实验还需要选定宿主，并有可写入的用户级或项目级技能目录。
```bash
npx skills add rohitg00/ai-engineering-from-scratch
```
安装程序询问时，选择宿主和安装范围。在 Codex 中使用 `start-learning`，在 Claude Code 中使用 `/start-learning`，或让宿主按名称使用该技能。
导师设置与宿主命令
先检查本机工具：
```bash
node --version
npx --version
python3 --version
```
安装器会根据你选择的宿主和范围，把技能写入 `.claude/skills/`、`.cursor/skills/`、`.codex/skills/` 等目录。安装后，请确认所选宿主能从该目录发现技能。
具体调用方式由宿主决定，`SKILL.md` 本身并不规定统一的斜杠命令：
| 宿主 | 开始课程 | 开始模型上下文协议（MCP）路线 | 开始 Agent Skills 路线 | 进行阶段测验 |
|---|---|---|---|---|
| Codex | 输入 `start-learning`，或在 `/skills` 中选择 | 输入 `learn-mcp`，或在 `/skills` 中选择 | 输入 `learn-agent-skills`，或在 `/skills` 中选择 | 输入 `check-understanding 13`，或在 `/skills` 中选择 |
| Claude Code | `/start-learning` | `/learn-mcp` | `/learn-agent-skills` | `/check-understanding 13` |
| 其他兼容宿主 | `Use start-learning to begin the course.` | `Use learn-mcp to start the Model Context Protocol (MCP) path.` | `Use learn-agent-skills to start the Agent Skills Engineering path.` | `Use check-understanding to quiz me on Phase 13.` |
入门测评有十道题，会根据你已掌握的知识推荐起始阶段，并将个性化学习计划保存到 `LEARNING.md`。之后，`learn` 技能每次带你学一节课：概念、数学、代码、测验；`course-guide` 则帮你定位当前问题对应的具体课程。Codex 中输入 `learn` 或 `course-guide`；Claude Code 中使用 `/learn` 或 `/course-guide`；其他兼容宿主可直接要求使用相应技能。
只想学习 MCP？使用上表中对应宿主的调用方式。它会创建 `MCP-LEARNING.md`，带你沿着 17 节课的路线学习无状态请求、传输方式、双向交互、安全、可靠性、注册表治理和一致性证据。顺序与检查点见 [MCP 路线清单](../../learning-paths/model-context-protocol.json)。
只想学习 Agent Skills？该路线会创建 `AGENT-SKILLS-LEARNING.md`，用五节课依次学习技能契约、发现、调用、沙盒边界，以及发布评估和真实宿主的可移植性。也可以从网站上的 [Agent Skills 路线](https://aiengineeringfromscratch.com/lesson?path=phases/13-tools-and-protocols/22-skills-and-agent-sdks&learningPath=agent-skills)开始。
安装器会列出它支持的宿主，并询问安装位置。如果你暂时没有 Node.js、`npx`、`python3`、受支持的宿主或可写入的安装目录，仍可在网站阅读课程，或手动打开 `docs/en.md`。这能帮助你学习概念；宿主发现、技能调用、脚本执行和卸载的真实证据，则要等环境就绪后再完成。[访问课程网站](https://aiengineeringfromscratch.com)。
### 学习技能
| 技能 | 用途 |
|---|---|
| [`start-learning`](../../skills/start-learning/SKILL.md) | 一次性入门：明确学习目标，完成水平测评，并把个性化计划保存到 `LEARNING.md`。 |
| [`learn`](../../skills/learn/SKILL.md) | 逐课导师：先回顾，再互动学习下一节课和完成测验；记录进度与复习队列。 |
| [`course-guide`](../../skills/course-guide/SKILL.md) | 主题导航：根据“在哪里学注意力机制”或“损失值为什么是 NaN”等问题，定位到具体课程。 |
| [`learn-mcp`](../../skills/learn-mcp/SKILL.md) | MCP 专项导师：创建 `MCP-LEARNING.md`，按 17 节课的路线学习，并记录协议、安全、可靠性和一致性证据。 |
| [`learn-agent-skills`](../../skills/learn-agent-skills/SKILL.md) | Agent Skills 专项导师：创建 `AGENT-SKILLS-LEARNING.md`，学习第 22、24、25、26、27 节课，并记录真实宿主中的运行证据。 |
| [`claude-certification`](../../skills/claude-certification/SKILL.md) | Claude 认证导师：选择四条认证路线之一，逐课教学、运行实验、评阅成果，并组织诊断与模拟考试。 |
| [`mcpa-certification`](../../skills/mcpa-certification/SKILL.md) | MCPA 导师：按 2026-07-28 协议学习 34 节课的 `mcpa-f` 路线，运行实验与协议检查，组织诊断和三套模拟考试。 |
| [`find-your-level`](../../skills/find-your-level/SKILL.md) | 十道题的水平测评：根据已有知识推荐起始阶段，并生成带时长估计的个性化路径。 |
| [`check-understanding `](../../skills/check-understanding/SKILL.md) | 每阶段八道理解测验，提供反馈及建议复习的课程；调用方式见上方宿主对照表。 |
### 运行本地代码
```bash
git clone https://github.com/rohitg00/ai-engineering-from-scratch.git
cd ai-engineering-from-scratch
python3 phases/00-setup-and-tooling/01-dev-environment/code/verify.py --route beginner
python3 phases/01-math-foundations/01-linear-algebra-intuition/code/vectors.py
```
环境预检会区分现在必需的工具和之后才需要的工具。每项必需检查若失败，都会说明检测到的原因，并给出修复命令。`vectors.py` 命令运行一节不依赖第三方包的课程，最后展示神经网络层的核心运算：矩阵乘向量。请保存终端输出，作为你的第一份学习证据。
每节课都按同一方法学习
### 每节课都按同一方法学习
1. **阅读** `docs/en.md`，并用自己的话解释核心概念。
2. **亲手编写和构建**关键代码，不要只浏览代码块。
3. **运行**课程命令。除非另有说明，应从包含 `README.md` 和 `phases/` 的仓库根目录运行。
4. **留下证据**：记录命令、工作目录、退出码、有意义的输出，以及你修改或产出的文件。
5. **确认理解后再继续**：你应能解释输出，并且不用猜测就能做出一个小改动。
除非课程明确要求切换目录，否则课程页面中的命令都应从仓库根目录运行。如果一节课提供多种编程语言，请运行你正在学习的那种实现。
## 选择学习路径
开始前不必先浏览 523 节课。选一个目标即可。每个链接都会打开同一套课程的 GitHub 或网站版本，两边使用相同的课程代码。
| 你的目标 | 在 GitHub 学习 | 在网站学习 |
|---|---|---|
| 我刚入门，需要完整的基础 | [阶段 0：环境与工具](../../phases/00-setup-and-tooling/) | [开发环境](https://aiengineeringfromscratch.com/lesson?path=phases/00-setup-and-tooling/01-dev-environment) |
| 我会 Python，想补齐数学与机器学习基础 | [阶段 1：数学基础](../../phases/01-math-foundations/) | [线性代数直觉](https://aiengineeringfromscratch.com/lesson?path=phases/01-math-foundations/01-linear-algebra-intuition) |
| 我想构建可用于生产环境的 LLM 应用 | [阶段 11：LLM 工程](../../phases/11-llm-engineering/) | [提示词工程](https://aiengineeringfromscratch.com/lesson?path=phases/11-llm-engineering/01-prompt-engineering) |
| 我想构建智能体 | [阶段 14：智能体工程](../../phases/14-agent-engineering/) | [智能体循环](https://aiengineeringfromscratch.com/lesson?path=phases/14-agent-engineering/01-the-agent-loop) |
| 我想用编程智能体处理真实仓库 | [智能体辅助工程路径](../../learning-paths/using-coding-agents.json) | [智能体辅助工程](https://aiengineeringfromscratch.com/lesson?path=phases/14-agent-engineering/31-agent-workbench-why-models-fail&learningPath=using-coding-agents) |
| 我想在动手前确定真正该构建什么 | [产品判断与交付路径](../../learning-paths/shaping-the-build.json) | [产品判断与交付](https://aiengineeringfromscratch.com/lesson?path=phases/14-agent-engineering/47-outcomes-before-output&learningPath=shaping-the-build) |
不确定从哪里开始？试试 [`start-learning` 入门测评导师](../../skills/start-learning/SKILL.md)，或查看[网站的先修知识指南](https://aiengineeringfromscratch.com/prereqs.html)。
在 [AI 工程学习路径](https://aiengineeringfromscratch.com/learning-paths.html)中，对比四大核心领域和六条职业路线。
MCP 与 Agent Skills 专项路径
| 你的目标 | 在 GitHub 学习 | 在网站学习 |
|---|---|---|
| 我想用模型上下文协议（MCP）构建系统 | [MCP 学习路线](../../phases/13-tools-and-protocols/README.md#model-context-protocol-mcp-path) | [MCP 路径](https://aiengineeringfromscratch.com/lesson?path=phases/13-tools-and-protocols/06-mcp-fundamentals&learningPath=model-context-protocol) |
| 我想编写并发布 Agent Skills | [Agent Skills 专项路线](../../phases/13-tools-and-protocols/README.md#agent-skills-fast-path) | [Agent Skills 路径](https://aiengineeringfromscratch.com/lesson?path=phases/13-tools-and-protocols/22-skills-and-agent-sdks&learningPath=agent-skills) |
先修知识与学习时间
### 先决条件
- 你能编写代码；任何语言都可以，会 Python 更方便。
- 你希望理解 AI **实际上如何工作**，而不只是调用 API。
## 从哪里开始
| 你的背景 | 建议起点 | 预计时长 |
|---|---|---|
| 刚开始学习编程和 AI | 阶段 0：环境与工具 | 约 306 小时 |
| 会 Python，但刚接触机器学习 | 阶段 1：数学基础 | 约 270 小时 |
| 了解机器学习，但刚接触深度学习 | 阶段 3：深度学习核心 | 约 200 小时 |
| 熟悉深度学习，想学 LLM 与智能体 | 阶段 10：从零构建大语言模型 | 约 100 小时 |
| 资深工程师，只想学智能体工程 | 阶段 14：智能体工程 | 约 60 小时 |
| 只想构建生产级 MCP 系统 | [MCP 学习路径](../../learning-paths/model-context-protocol.json) | 约 23 小时 15 分钟 |
| 只想构建生产级 Agent Skills | [Agent Skills 工程路径](../../learning-paths/agent-skills.json) | 约 9.5 小时 |
## 课程结构
20 个阶段层层衔接：数学是地基，智能体与生产部署是上层。如果你已经掌握前面的基础，可以直接进入更高阶段；遇到困难时，也能沿着课程依赖回到缺失的知识点。
```mermaid
%%{init: {'theme':'base','themeVariables':{'primaryColor':'#fafaf5','primaryTextColor':'#1a1a1a','primaryBorderColor':'#3553ff','lineColor':'#3553ff','fontFamily':'JetBrains Mono','fontSize':'12px'}}}%%
flowchart TB
P0["阶段 0：环境与工具"] --> P1["阶段 1：数学基础"]
P1 --> P2["阶段 2：机器学习基础"]
P2 --> P3["阶段 3：深度学习核心"]
P3 --> P4["阶段 4：计算机视觉"]
P3 --> P5["阶段 5：自然语言处理"]
P3 --> P6["阶段 6：语音与音频"]
P3 --> P9["阶段 9：强化学习"]
P5 --> P7["阶段 7：Transformer"]
P7 --> P8["阶段 8：生成式 AI"]
P7 --> P10["阶段 10：从零构建大语言模型"]
P10 --> P11["阶段 11：大语言模型工程"]
P10 --> P12["阶段 12：多模态 AI"]
P11 --> P13["阶段 13：工具与协议"]
P13 --> P14["阶段 14：智能体工程"]
P14 --> P15["阶段 15：自主系统"]
P15 --> P16["阶段 16：多智能体与群体智能"]
P14 --> P17["阶段 17：基础设施与生产部署"]
P15 --> P18["阶段 18：伦理、安全与对齐"]
P16 --> P19["阶段 19：综合项目"]
P17 --> P19
P18 --> P19
```
## 课程目录
课程共分 20 个阶段；点击任一阶段即可展开其课程列表。
### 阶段 0：环境与工具 `12 节课`
> 配好学习后续所有内容所需的环境与工具。
| # | 课程 | 类型 | 语言 |
|:---:|--------|:----:|------|
| 01 | [开发环境](../../phases/00-setup-and-tooling/01-dev-environment/) | 构建 | Python |
| 02 | [Git 与协作](../../phases/00-setup-and-tooling/02-git-and-collaboration/) | 学习 | — |
| 03 | [GPU 配置与云端环境](../../phases/00-setup-and-tooling/03-gpu-setup-and-cloud/) | 构建 | Python |
| 04 | [API 与密钥](../../phases/00-setup-and-tooling/04-apis-and-keys/) | 构建 | Python |
| 05 | [Jupyter Notebook](../../phases/00-setup-and-tooling/05-jupyter-notebooks/) | 构建 | Python |
| 06 | [Python 环境管理](../../phases/00-setup-and-tooling/06-python-environments/) | 构建 | Shell |
| 07 | [用于 AI 的 Docker](../../phases/00-setup-and-tooling/07-docker-for-ai/) | 构建 | Docker |
| 08 | [编辑器配置](../../phases/00-setup-and-tooling/08-editor-setup/) | 构建 | — |
| 09 | [数据管理](../../phases/00-setup-and-tooling/09-data-management/) | 构建 | Python |
| 10 | [终端与 Shell](../../phases/00-setup-and-tooling/10-terminal-and-shell/) | 学习 | — |
| 11 | [用于 AI 的 Linux](../../phases/00-setup-and-tooling/11-linux-for-ai/) | 学习 | — |
| 12 | [调试与性能分析](../../phases/00-setup-and-tooling/12-debugging-and-profiling/) | 构建 | Python |
阶段 1 — 数学基础 22 节课 用代码建立理解 AI 算法所需的数学直觉。
| # | 课程 | 类型 | 语言 |
|:---:|--------|:----:|------|
| 01 | [线性代数直觉](../../phases/01-math-foundations/01-linear-algebra-intuition/) | 学习 | Python, Julia |
| 02 | [向量、矩阵与基本运算](../../phases/01-math-foundations/02-vectors-matrices-operations/) | 构建 | Python, Julia |
| 03 | [矩阵变换与特征值](../../phases/01-math-foundations/03-matrix-transformations/) | 构建 | Python, Julia |
| 04 | [机器学习中的微积分：导数与梯度](../../phases/01-math-foundations/04-calculus-for-ml/) | 学习 | Python |
| 05 | [链式法则与自动微分](../../phases/01-math-foundations/05-chain-rule-and-autodiff/) | 构建 | Python |
| 06 | [概率与概率分布](../../phases/01-math-foundations/06-probability-and-distributions/) | 学习 | Python |
| 07 | [贝叶斯定理与统计思维](../../phases/01-math-foundations/07-bayes-theorem/) | 构建 | Python |
| 08 | [优化：梯度下降及其变体](../../phases/01-math-foundations/08-optimization/) | 构建 | Python |
| 09 | [信息论：熵与 KL 散度](../../phases/01-math-foundations/09-information-theory/) | 学习 | Python |
| 10 | [降维：PCA、t-SNE 与 UMAP](../../phases/01-math-foundations/10-dimensionality-reduction/) | 构建 | Python |
| 11 | [奇异值分解](../../phases/01-math-foundations/11-singular-value-decomposition/) | 构建 | Python, Julia |
| 12 | [张量运算](../../phases/01-math-foundations/12-tensor-operations/) | 构建 | Python |
| 13 | [数值稳定性](../../phases/01-math-foundations/13-numerical-stability/) | 构建 | Python |
| 14 | [范数与距离](../../phases/01-math-foundations/14-norms-and-distances/) | 构建 | Python |
| 15 | [机器学习中的统计学](../../phases/01-math-foundations/15-statistics-for-ml/) | 构建 | Python |
| 16 | [采样方法](../../phases/01-math-foundations/16-sampling-methods/) | 构建 | Python |
| 17 | [线性方程组](../../phases/01-math-foundations/17-linear-systems/) | 构建 | Python |
| 18 | [凸优化](../../phases/01-math-foundations/18-convex-optimization/) | 构建 | Python |
| 19 | [AI 中的复数](../../phases/01-math-foundations/19-complex-numbers/) | 学习 | Python |
| 20 | [傅里叶变换](../../phases/01-math-foundations/20-fourier-transform/) | 构建 | Python |
| 21 | [机器学习中的图论](../../phases/01-math-foundations/21-graph-theory/) | 构建 | Python |
| 22 | [随机过程](../../phases/01-math-foundations/22-stochastic-processes/) | 学习 | Python |
阶段 2 — 机器学习基础 18 节课 经典机器学习仍是许多生产系统的支柱。
| # | 课程 | 类型 | 语言 |
|:---:|--------|:----:|------|
| 01 | [什么是机器学习](../../phases/02-ml-fundamentals/01-what-is-machine-learning/) | 学习 | Python |
| 02 | [从零实现线性回归](../../phases/02-ml-fundamentals/02-linear-regression/) | 构建 | Python |
| 03 | [逻辑回归与分类](../../phases/02-ml-fundamentals/03-logistic-regression/) | 构建 | Python |
| 04 | [决策树与随机森林](../../phases/02-ml-fundamentals/04-decision-trees/) | 构建 | Python |
| 05 | [支持向量机](../../phases/02-ml-fundamentals/05-support-vector-machines/) | 构建 | Python |
| 06 | [KNN 与距离度量](../../phases/02-ml-fundamentals/06-knn-and-distances/) | 构建 | Python |
| 07 | [无监督学习：K-Means 与 DBSCAN](../../phases/02-ml-fundamentals/07-unsupervised-learning/) | 构建 | Python |
| 08 | [特征工程与特征选择](../../phases/02-ml-fundamentals/08-feature-engineering/) | 构建 | Python |
| 09 | [模型评估：指标与交叉验证](../../phases/02-ml-fundamentals/09-model-evaluation/) | 构建 | Python |
| 10 | [偏差、方差与学习曲线](../../phases/02-ml-fundamentals/10-bias-variance/) | 学习 | Python |
| 11 | [集成学习：Boosting、Bagging 与 Stacking](../../phases/02-ml-fundamentals/11-ensemble-methods/) | 构建 | Python |
| 12 | [超参数调优](../../phases/02-ml-fundamentals/12-hyperparameter-tuning/) | 构建 | Python |
| 13 | [机器学习流水线与实验追踪](../../phases/02-ml-fundamentals/13-ml-pipelines/) | 构建 | Python |
| 14 | [朴素贝叶斯](../../phases/02-ml-fundamentals/14-naive-bayes/) | 构建 | Python |
| 15 | [时间序列基础](../../phases/02-ml-fundamentals/15-time-series/) | 构建 | Python |
| 16 | [异常检测](../../phases/02-ml-fundamentals/16-anomaly-detection/) | 构建 | Python |
| 17 | [处理类别不平衡数据](../../phases/02-ml-fundamentals/17-imbalanced-data/) | 构建 | Python |
| 18 | [特征选择](../../phases/02-ml-fundamentals/18-feature-selection/) | 构建 | Python |
阶段 3 — 深度学习核心 13 节课 从第一性原理理解神经网络：先自己实现，再使用框架。
| # | 课程 | 类型 | 语言 |
|:---:|--------|:----:|------|
| 01 | [感知机：神经网络的起点](../../phases/03-deep-learning-core/01-the-perceptron/) | 构建 | Python |
| 02 | [多层网络与前向传播](../../phases/03-deep-learning-core/02-multi-layer-networks/) | 构建 | Python |
| 03 | [从零实现反向传播](../../phases/03-deep-learning-core/03-backpropagation/) | 构建 | Python |
| 04 | [激活函数：ReLU、Sigmoid、GELU 及其作用](../../phases/03-deep-learning-core/04-activation-functions/) | 构建 | Python |
| 05 | [损失函数：MSE、交叉熵与对比损失](../../phases/03-deep-learning-core/05-loss-functions/) | 构建 | Python |
| 06 | [优化器：SGD、动量、Adam 与 AdamW](../../phases/03-deep-learning-core/06-optimizers/) | 构建 | Python |
| 07 | [正则化：Dropout、权重衰减与 BatchNorm](../../phases/03-deep-learning-core/07-regularization/) | 构建 | Python |
| 08 | [权重初始化与训练稳定性](../../phases/03-deep-learning-core/08-weight-initialization/) | 构建 | Python |
| 09 | [学习率调度与预热](../../phases/03-deep-learning-core/09-learning-rate-schedules/) | 构建 | Python |
| 10 | [构建自己的迷你框架](../../phases/03-deep-learning-core/10-mini-framework/) | 构建 | Python |
| 11 | [PyTorch 入门](../../phases/03-deep-learning-core/11-intro-to-pytorch/) | 构建 | Python |
| 12 | [JAX 入门](../../phases/03-deep-learning-core/12-intro-to-jax/) | 构建 | Python |
| 13 | [神经网络调试](../../phases/03-deep-learning-core/13-debugging-neural-networks/) | 构建 | Python |
阶段 4 — 计算机视觉 28 节课 从像素走向理解：图像、视频、3D、视觉语言模型与世界模型。
| # | 课程 | 类型 | 语言 |
|:---:|--------|:----:|------|
| 01 | [图像基础：像素、通道与色彩空间](../../phases/04-computer-vision/01-image-fundamentals/) | 学习 | Python |
| 02 | [从零实现卷积](../../phases/04-computer-vision/02-convolutions-from-scratch/) | 构建 | Python |
| 03 | [卷积神经网络：从 LeNet 到 ResNet](../../phases/04-computer-vision/03-cnns-lenet-to-resnet/) | 构建 | Python |
| 04 | [图像分类](../../phases/04-computer-vision/04-image-classification/) | 构建 | Python |
| 05 | [迁移学习与微调](../../phases/04-computer-vision/05-transfer-learning/) | 构建 | Python |
| 06 | [从零实现 YOLO 目标检测](../../phases/04-computer-vision/06-object-detection-yolo/) | 构建 | Python |
| 07 | [语义分割：U-Net](../../phases/04-computer-vision/07-semantic-segmentation-unet/) | 构建 | Python |
| 08 | [实例分割：Mask R-CNN](../../phases/04-computer-vision/08-instance-segmentation-mask-rcnn/) | 构建 | Python |
| 09 | [图像生成：GAN](../../phases/04-computer-vision/09-image-generation-gans/) | 构建 | Python |
| 10 | [图像生成：扩散模型](../../phases/04-computer-vision/10-image-generation-diffusion/) | 构建 | Python |
| 11 | [Stable Diffusion：架构与微调](../../phases/04-computer-vision/11-stable-diffusion/) | 构建 | Python |
| 12 | [视频理解：时序建模](../../phases/04-computer-vision/12-video-understanding/) | 构建 | Python |
| 13 | [3D 视觉：点云与 NeRF](../../phases/04-computer-vision/13-3d-vision-nerf/) | 构建 | Python |
| 14 | [视觉 Transformer（ViT）](../../phases/04-computer-vision/14-vision-transformers/) | 构建 | Python |
| 15 | [实时视觉：边缘部署](../../phases/04-computer-vision/15-real-time-edge/) | 构建 | Python |
| 16 | [构建完整的视觉处理流水线](../../phases/04-computer-vision/16-vision-pipeline-capstone/) | 构建 | Python |
| 17 | [自监督视觉学习：SimCLR、DINO 与 MAE](../../phases/04-computer-vision/17-self-supervised-vision/) | 构建 | Python |
| 18 | [开放词表视觉：CLIP](../../phases/04-computer-vision/18-open-vocab-clip/) | 构建 | Python |
| 19 | [OCR 与文档理解](../../phases/04-computer-vision/19-ocr-document-understanding/) | 构建 | Python |
| 20 | [图像检索与度量学习](../../phases/04-computer-vision/20-image-retrieval-metric/) | 构建 | Python |
| 21 | [关键点检测与姿态估计](../../phases/04-computer-vision/21-keypoint-pose/) | 构建 | Python |
| 22 | [从零实现 3D 高斯泼溅](../../phases/04-computer-vision/22-3d-gaussian-splatting/) | 构建 | Python |
| 23 | [扩散 Transformer 与矫正流](../../phases/04-computer-vision/23-diffusion-transformers-rectified-flow/) | 构建 | Python |
| 24 | [SAM 3 与开放词表分割](../../phases/04-computer-vision/24-sam3-open-vocab-segmentation/) | 构建 | Python |
| 25 | [视觉语言模型（ViT-MLP-LLM）](../../phases/04-computer-vision/25-vision-language-models/) | 构建 | Python |
| 26 | [单目深度与几何估计](../../phases/04-computer-vision/26-monocular-depth/) | 构建 | Python |
| 27 | [多目标跟踪与视频记忆](../../phases/04-computer-vision/27-multi-object-tracking/) | 构建 | Python |
| 28 | [世界模型与视频扩散](../../phases/04-computer-vision/28-world-models-video-diffusion/) | 构建 | Python |
阶段 5 — 自然语言处理：从基础到进阶 29 节课 语言是通往智能的接口。
| # | 课程 | 类型 | 语言 |
|:---:|--------|:----:|------|
| 01 | [文本处理：分词、词干提取与词形还原](../../phases/05-nlp-foundations-to-advanced/01-text-processing/) | 构建 | Python |
| 02 | [词袋模型、TF-IDF 与文本表示](../../phases/05-nlp-foundations-to-advanced/02-bag-of-words-tfidf/) | 构建 | Python |
| 03 | [词嵌入：从零实现 Word2Vec](../../phases/05-nlp-foundations-to-advanced/03-word-embeddings-word2vec/) | 构建 | Python |
| 04 | [GloVe、FastText 与子词嵌入](../../phases/05-nlp-foundations-to-advanced/04-glove-fasttext-subword/) | 构建 | Python |
| 05 | [情感分析](../../phases/05-nlp-foundations-to-advanced/05-sentiment-analysis/) | 构建 | Python |
| 06 | [命名实体识别（NER）](../../phases/05-nlp-foundations-to-advanced/06-named-entity-recognition/) | 构建 | Python |
| 07 | [词性标注与句法解析](../../phases/05-nlp-foundations-to-advanced/07-pos-tagging-parsing/) | 构建 | Python |
| 08 | [文本分类：用于文本的 CNN 与 RNN](../../phases/05-nlp-foundations-to-advanced/08-cnns-rnns-for-text/) | 构建 | Python |
| 09 | [序列到序列模型](../../phases/05-nlp-foundations-to-advanced/09-sequence-to-sequence/) | 构建 | Python |
| 10 | [注意力机制：关键突破](../../phases/05-nlp-foundations-to-advanced/10-attention-mechanism/) | 构建 | Python |
| 11 | [机器翻译](../../phases/05-nlp-foundations-to-advanced/11-machine-translation/) | 构建 | Python |
| 12 | [文本摘要](../../phases/05-nlp-foundations-to-advanced/12-text-summarization/) | 构建 | Python |
| 13 | [问答系统](../../phases/05-nlp-foundations-to-advanced/13-question-answering/) | 构建 | Python |
| 14 | [信息检索与搜索](../../phases/05-nlp-foundations-to-advanced/14-information-retrieval-search/) | 构建 | Python |
| 15 | [主题建模：LDA 与 BERTopic](../../phases/05-nlp-foundations-to-advanced/15-topic-modeling/) | 构建 | Python |
| 16 | [文本生成](../../phases/05-nlp-foundations-to-advanced/16-text-generation-pre-transformer/) | 构建 | Python |
| 17 | [聊天机器人：从规则系统到神经网络](../../phases/05-nlp-foundations-to-advanced/17-chatbots-rule-to-neural/) | 构建 | Python |
| 18 | [多语言自然语言处理](../../phases/05-nlp-foundations-to-advanced/18-multilingual-nlp/) | 构建 | Python |
| 19 | [子词分词：BPE、WordPiece、Unigram 与 SentencePiece](../../phases/05-nlp-foundations-to-advanced/19-subword-tokenization/) | 学习 | Python |
| 20 | [结构化输出与约束解码](../../phases/05-nlp-foundations-to-advanced/20-structured-outputs-constrained-decoding/) | 构建 | Python |
| 21 | [自然语言推理（NLI）与文本蕴含](../../phases/05-nlp-foundations-to-advanced/21-nli-textual-entailment/) | 学习 | Python |
| 22 | [深入理解嵌入模型](../../phases/05-nlp-foundations-to-advanced/22-embedding-models-deep-dive/) | 学习 | Python |
| 23 | [用于 RAG 的文本切块策略](../../phases/05-nlp-foundations-to-advanced/23-chunking-strategies-rag/) | 构建 | Python |
| 24 | [共指消解](../../phases/05-nlp-foundations-to-advanced/24-coreference-resolution/) | 学习 | Python |
| 25 | [实体链接与消歧](../../phases/05-nlp-foundations-to-advanced/25-entity-linking/) | 构建 | Python |
| 26 | [关系抽取与知识图谱构建](../../phases/05-nlp-foundations-to-advanced/26-relation-extraction-kg/) | 构建 | Python |
| 27 | [LLM 评估：RAGAS、DeepEval 与 G-Eval](../../phases/05-nlp-foundations-to-advanced/27-llm-evaluation-frameworks/) | 构建 | Python |
| 28 | [长上下文评估：NIAH、RULER、LongBench 与 MRCR](../../phases/05-nlp-foundations-to-advanced/28-long-context-evaluation/) | 学习 | Python |
| 29 | [对话状态跟踪](../../phases/05-nlp-foundations-to-advanced/29-dialogue-state-tracking/) | 构建 | Python |
阶段 6 — 语音与音频 17 节课 让系统能够聆听、理解和表达。
| # | 课程 | 类型 | 语言 |
|:---:|--------|:----:|------|
| 01 | [音频基础：波形、采样与 FFT](../../phases/06-speech-and-audio/01-audio-fundamentals) | 学习 | Python |
| 02 | [频谱图、梅尔刻度与音频特征](../../phases/06-speech-and-audio/02-spectrograms-mel-features) | 构建 | Python |
| 03 | [音频分类](../../phases/06-speech-and-audio/03-audio-classification) | 构建 | Python |
| 04 | [语音识别（ASR）](../../phases/06-speech-and-audio/04-speech-recognition-asr) | 构建 | Python |
| 05 | [Whisper：架构与微调](../../phases/06-speech-and-audio/05-whisper-architecture-finetuning) | 构建 | Python |
| 06 | [说话人识别与验证](../../phases/06-speech-and-audio/06-speaker-recognition-verification) | 构建 | Python |
| 07 | [文本转语音（TTS）](../../phases/06-speech-and-audio/07-text-to-speech) | 构建 | Python |
| 08 | [声音克隆与声音转换](../../phases/06-speech-and-audio/08-voice-cloning-conversion) | 构建 | Python |
| 09 | [音乐生成](../../phases/06-speech-and-audio/09-music-generation) | 构建 | Python |
| 10 | [音频语言模型](../../phases/06-speech-and-audio/10-audio-language-models) | 构建 | Python |
| 11 | [实时音频处理](../../phases/06-speech-and-audio/11-real-time-audio-processing) | 构建 | Python |
| 12 | [构建语音助手流水线](../../phases/06-speech-and-audio/12-voice-assistant-pipeline) | 构建 | Python |
| 13 | [神经音频编解码器：EnCodec、SNAC、Mimi 与 DAC](../../phases/06-speech-and-audio/13-neural-audio-codecs) | 学习 | Python |
| 14 | [语音活动检测与轮次管理](../../phases/06-speech-and-audio/14-voice-activity-detection-turn-taking) | 构建 | Python |
| 15 | [流式语音到语音：Moshi 与 Hibiki](../../phases/06-speech-and-audio/15-streaming-speech-to-speech-moshi-hibiki) | 学习 | Python |
| 16 | [语音反欺骗与音频水印](../../phases/06-speech-and-audio/16-anti-spoofing-audio-watermarking) | 构建 | Python |
| 17 | [音频评估：WER、MOS、MMAU 与排行榜](../../phases/06-speech-and-audio/17-audio-evaluation-metrics) | 学习 | Python |
阶段 7 — 深入理解 Transformer 16 节课 弄懂改变 AI 发展方向的核心架构。
| # | 课程 | 类型 | 语言 |
|:---:|--------|:----:|------|
| 01 | [为什么需要 Transformer：RNN 的局限](../../phases/07-transformers-deep-dive/01-why-transformers/) | 学习 | Python |
| 02 | [从零实现自注意力](../../phases/07-transformers-deep-dive/02-self-attention-from-scratch/) | 构建 | Python |
| 03 | [多头注意力](../../phases/07-transformers-deep-dive/03-multi-head-attention/) | 构建 | Python |
| 04 | [位置编码：正弦编码、RoPE 与 ALiBi](../../phases/07-transformers-deep-dive/04-positional-encoding/) | 构建 | Python |
| 05 | [完整 Transformer：编码器与解码器](../../phases/07-transformers-deep-dive/05-full-transformer/) | 构建 | Python |
| 06 | [BERT：掩码语言建模](../../phases/07-transformers-deep-dive/06-bert-masked-language-modeling/) | 构建 | Python |
| 07 | [GPT：因果语言建模](../../phases/07-transformers-deep-dive/07-gpt-causal-language-modeling/) | 构建 | Python |
| 08 | [T5 与 BART：编码器—解码器模型](../../phases/07-transformers-deep-dive/08-t5-bart-encoder-decoder/) | 学习 | Python |
| 09 | [视觉 Transformer（ViT）](../../phases/07-transformers-deep-dive/09-vision-transformers/) | 构建 | Python |
| 10 | [音频 Transformer：Whisper 架构](../../phases/07-transformers-deep-dive/10-audio-transformers-whisper/) | 学习 | Python |
| 11 | [混合专家模型（MoE）](../../phases/07-transformers-deep-dive/11-mixture-of-experts/) | 构建 | Python |
| 12 | [KV 缓存、FlashAttention 与推理优化](../../phases/07-transformers-deep-dive/12-kv-cache-flash-attention/) | 构建 | Python |
| 13 | [缩放定律](../../phases/07-transformers-deep-dive/13-scaling-laws/) | 学习 | Python |
| 14 | [从零构建 Transformer](../../phases/07-transformers-deep-dive/14-build-a-transformer-capstone/) | 构建 | Python |
| 15 | [注意力变体：滑动窗口、稀疏与差分注意力](../../phases/07-transformers-deep-dive/15-attention-variants/) | 构建 | Python |
| 16 | [推测解码：草稿、验证与重复](../../phases/07-transformers-deep-dive/16-speculative-decoding/) | 构建 | Python |
阶段 8 — 生成式 AI 15 节课 生成图像、视频、音频、3D 内容等。
| # | 课程 | 类型 | 语言 |
|:---:|--------|:----:|------|
| 01 | [生成模型：分类与历史](../../phases/08-generative-ai/01-generative-models-taxonomy-history/) | 学习 | Python |
| 02 | [自动编码器与 VAE](../../phases/08-generative-ai/02-autoencoders-vae/) | 构建 | Python |
| 03 | [GAN：生成器与判别器](../../phases/08-generative-ai/03-gans-generator-discriminator/) | 构建 | Python |
| 04 | [条件 GAN 与 Pix2Pix](../../phases/08-generative-ai/04-conditional-gans-pix2pix/) | 构建 | Python |
| 05 | [StyleGAN](../../phases/08-generative-ai/05-stylegan/) | 构建 | Python |
| 06 | [扩散模型：从零实现 DDPM](../../phases/08-generative-ai/06-diffusion-ddpm-from-scratch/) | 构建 | Python |
| 07 | [潜空间扩散与 Stable Diffusion](../../phases/08-generative-ai/07-latent-diffusion-stable-diffusion/) | 构建 | Python |
| 08 | [ControlNet、LoRA 与条件控制](../../phases/08-generative-ai/08-controlnet-lora-conditioning/) | 构建 | Python |
| 09 | [局部修复、画布扩展与图像编辑](../../phases/08-generative-ai/09-inpainting-outpainting-editing/) | 构建 | Python |
| 10 | [视频生成](../../phases/08-generative-ai/10-video-generation/) | 构建 | Python |
| 11 | [音频生成](../../phases/08-generative-ai/11-audio-generation/) | 构建 | Python |
| 12 | [3D 内容生成](../../phases/08-generative-ai/12-3d-generation/) | 构建 | Python |
| 13 | [流匹配与矫正流](../../phases/08-generative-ai/13-flow-matching-rectified-flows/) | 构建 | Python |
| 14 | [生成效果评估：FID 与 CLIP Score](../../phases/08-generative-ai/14-evaluation-fid-clip-score/) | 构建 | Python |
| 19 | [视觉自回归建模（VAR）：下一尺度预测](../../phases/08-generative-ai/19-visual-autoregressive-var/) | 构建 | Python |
阶段 9 — 强化学习 12 节课 理解 RLHF 与博弈智能体的基础。
| # | 课程 | 类型 | 语言 |
|:---:|--------|:----:|------|
| 01 | [马尔可夫决策过程：状态、动作与奖励](../../phases/09-reinforcement-learning/01-mdps-states-actions-rewards/) | 学习 | Python |
| 02 | [动态规划](../../phases/09-reinforcement-learning/02-dynamic-programming/) | 构建 | Python |
| 03 | [蒙特卡洛方法](../../phases/09-reinforcement-learning/03-monte-carlo-methods/) | 构建 | Python |
| 04 | [Q-Learning 与 SARSA](../../phases/09-reinforcement-learning/04-q-learning-sarsa/) | 构建 | Python |
| 05 | [深度 Q 网络（DQN）](../../phases/09-reinforcement-learning/05-dqn/) | 构建 | Python |
| 06 | [策略梯度：REINFORCE](../../phases/09-reinforcement-learning/06-policy-gradients-reinforce/) | 构建 | Python |
| 07 | [Actor-Critic：A2C 与 A3C](../../phases/09-reinforcement-learning/07-actor-critic-a2c-a3c/) | 构建 | Python |
| 08 | [PPO](../../phases/09-reinforcement-learning/08-ppo/) | 构建 | Python |
| 09 | [奖励建模与 RLHF](../../phases/09-reinforcement-learning/09-reward-modeling-rlhf/) | 构建 | Python |
| 10 | [多智能体强化学习](../../phases/09-reinforcement-learning/10-multi-agent-rl/) | 构建 | Python |
| 11 | [仿真到现实迁移](../../phases/09-reinforcement-learning/11-sim-to-real-transfer/) | 构建 | Python |
| 12 | [面向游戏的强化学习](../../phases/09-reinforcement-learning/12-rl-for-games/) | 构建 | Python |
阶段 10 — 从零构建大语言模型 24 节课 亲手构建、训练并理解大语言模型。
| # | 课程 | 类型 | 语言 |
|:---:|--------|:----:|------|
| 01 | [分词器：BPE、WordPiece 与 SentencePiece](../../phases/10-llms-from-scratch/01-tokenizers/) | 构建 | Python, Rust |
| 02 | [从零构建分词器](../../phases/10-llms-from-scratch/02-building-a-tokenizer/) | 构建 | Python |
| 03 | [预训练数据流水线](../../phases/10-llms-from-scratch/03-data-pipelines/) | 构建 | Python |
| 04 | [预训练迷你 GPT（124M）](../../phases/10-llms-from-scratch/04-pre-training-mini-gpt/) | 构建 | Python |
| 05 | [分布式训练：FSDP 与 DeepSpeed](../../phases/10-llms-from-scratch/05-scaling-distributed/) | 构建 | Python |
| 06 | [指令微调：SFT](../../phases/10-llms-from-scratch/06-instruction-tuning-sft/) | 构建 | Python |
| 07 | [RLHF：奖励模型与 PPO](../../phases/10-llms-from-scratch/07-rlhf/) | 构建 | Python |
| 08 | [DPO：直接偏好优化](../../phases/10-llms-from-scratch/08-dpo/) | 构建 | Python |
| 09 | [宪法式 AI 与自我改进](../../phases/10-llms-from-scratch/09-constitutional-ai-self-improvement/) | 构建 | Python |
| 10 | [模型评估：基准与评测](../../phases/10-llms-from-scratch/10-evaluation/) | 构建 | Python |
| 11 | [量化：INT8、GPTQ、AWQ 与 GGUF](../../phases/10-llms-from-scratch/11-quantization/) | 构建 | Python |
| 12 | [推理优化](../../phases/10-llms-from-scratch/12-inference-optimization/) | 构建 | Python |
| 13 | [构建完整的 LLM 流水线](../../phases/10-llms-from-scratch/13-building-complete-llm-pipeline/) | 构建 | Python |
| 14 | [开放模型：架构解析](../../phases/10-llms-from-scratch/14-open-models-architecture-walkthroughs/) | 学习 | Python |
| 15 | [推测解码与 EAGLE-3](../../phases/10-llms-from-scratch/15-speculative-decoding-eagle3/) | 构建 | Python |
| 16 | [差分注意力（V2）](../../phases/10-llms-from-scratch/16-differential-attention-v2/) | 构建 | Python |
| 17 | [原生稀疏注意力（DeepSeek NSA）](../../phases/10-llms-from-scratch/17-native-sparse-attention/) | 构建 | Python |
| 18 | [多 Token 预测（MTP）](../../phases/10-llms-from-scratch/18-multi-token-prediction/) | 构建 | Python |
| 19 | [DualPipe 并行](../../phases/10-llms-from-scratch/19-dualpipe-parallelism/) | 学习 | Python |
| 20 | [DeepSeek-V3 架构解析](../../phases/10-llms-from-scratch/20-deepseek-v3-walkthrough/) | 学习 | Python |
| 21 | [Jamba：SSM 与 Transformer 混合架构](../../phases/10-llms-from-scratch/21-jamba-hybrid-ssm-transformer/) | 学习 | Python |
| 22 | [异步与 Hogwild! 推理](../../phases/10-llms-from-scratch/22-async-hogwild-inference/) | 构建 | Python |
| 25 | [推测解码与 EAGLE](../../phases/10-llms-from-scratch/25-speculative-decoding/) | 构建 | Python |
| 34 | [梯度检查点与激活值重计算](../../phases/10-llms-from-scratch/34-gradient-checkpointing/) | 构建 | Python |
阶段 11 — 大语言模型工程 17 节课 让大语言模型可靠地服务于生产场景。
| # | 课程 | 类型 | 语言 |
|:---:|--------|:----:|------|
| 01 | [提示词工程：技巧与模式](../../phases/11-llm-engineering/01-prompt-engineering/) | 构建 | Python |
| 02 | [少样本学习、思维链与思维树](../../phases/11-llm-engineering/02-few-shot-cot/) | 构建 | Python |
| 03 | [结构化输出](../../phases/11-llm-engineering/03-structured-outputs/) | 构建 | Python |
| 04 | [嵌入与向量表示](../../phases/11-llm-engineering/04-embeddings/) | 构建 | Python |
| 05 | [上下文工程](../../phases/11-llm-engineering/05-context-engineering/) | 构建 | Python |
| 06 | [RAG：检索增强生成](../../phases/11-llm-engineering/06-rag/) | 构建 | Python |
| 07 | [高级 RAG：切块与重排序](../../phases/11-llm-engineering/07-advanced-rag/) | 构建 | Python |
| 08 | [使用 LoRA 与 QLoRA 微调](../../phases/11-llm-engineering/08-fine-tuning-lora/) | 构建 | Python |
| 09 | [函数调用与工具使用](../../phases/11-llm-engineering/09-function-calling/) | 构建 | Python |
| 10 | [评估与测试](../../phases/11-llm-engineering/10-evaluation/) | 构建 | Python |
| 11 | [缓存、速率限制与成本](../../phases/11-llm-engineering/11-caching-cost/) | 构建 | Python |
| 12 | [护栏与安全](../../phases/11-llm-engineering/12-guardrails/) | 构建 | Python |
| 13 | [构建生产级 LLM 应用](../../phases/11-llm-engineering/13-production-app/) | 构建 | Python |
| 14 | [模型上下文协议（MCP）](../../phases/11-llm-engineering/14-model-context-protocol/) | 构建 | Python |
| 15 | [提示词缓存与上下文缓存](../../phases/11-llm-engineering/15-prompt-caching/) | 构建 | Python |
| 16 | [智能体状态机：图、节点与检查点](../../phases/11-llm-engineering/16-langgraph-state-machines/) | 构建 | Python |
| 17 | [智能体框架的权衡](../../phases/11-llm-engineering/17-agent-framework-tradeoffs/) | 学习 | Python |
阶段 12 — 多模态 AI 25 节课 跨模态观察、聆听、阅读和推理，从 ViT 图像块到计算机操作智能体。
| # | 课程 | 类型 | 语言 |
|:---:|--------|:----:|------|
| 01 | [视觉 Transformer 与图像块 Token 原语](../../phases/12-multimodal-ai/01-vision-transformer-patch-tokens/) | 学习 | Python |
| 02 | [CLIP 与对比式视觉语言预训练](../../phases/12-multimodal-ai/02-clip-contrastive-pretraining/) | 构建 | Python |
| 03 | [BLIP-2 的 Q-Former 模态桥梁](../../phases/12-multimodal-ai/03-blip2-qformer-bridge/) | 构建 | Python |
| 04 | [Flamingo 与门控交叉注意力](../../phases/12-multimodal-ai/04-flamingo-gated-cross-attention/) | 学习 | Python |
| 05 | [LLaVA 与视觉指令微调](../../phases/12-multimodal-ai/05-llava-visual-instruction-tuning/) | 构建 | Python |
| 06 | [任意分辨率视觉：Patch-n'-Pack 与 NaFlex](../../phases/12-multimodal-ai/06-any-resolution-patch-n-pack/) | 构建 | Python |
| 07 | [开放权重 VLM 实践：真正重要的因素](../../phases/12-multimodal-ai/07-open-weight-vlm-recipes/) | 学习 | Python |
| 08 | [LLaVA-OneVision：单图、多图与视频](../../phases/12-multimodal-ai/08-llava-onevision-single-multi-video/) | 构建 | Python |
| 09 | [Qwen-VL 系列与动态帧率视频](../../phases/12-multimodal-ai/09-qwen-vl-family-dynamic-fps/) | 学习 | Python |
| 10 | [InternVL3 的原生多模态预训练](../../phases/12-multimodal-ai/10-internvl3-native-multimodal/) | 学习 | Python |
| 11 | [Chameleon：早期融合的纯 Token 架构](../../phases/12-multimodal-ai/11-chameleon-early-fusion-tokens/) | 构建 | Python |
| 12 | [Emu3：用于生成的下一 Token 预测](../../phases/12-multimodal-ai/12-emu3-next-token-for-generation/) | 学习 | Python |
| 13 | [Transfusion：自回归与扩散结合](../../phases/12-multimodal-ai/13-transfusion-autoregressive-diffusion/) | 构建 | Python |
| 14 | [Show-o：统一的离散扩散模型](../../phases/12-multimodal-ai/14-show-o-discrete-diffusion-unified/) | 学习 | Python |
| 15 | [Janus-Pro：解耦的编码器](../../phases/12-multimodal-ai/15-janus-pro-decoupled-encoders/) | 构建 | Python |
| 16 | [MIO：任意模态到任意模态的流式处理](../../phases/12-multimodal-ai/16-mio-any-to-any-streaming/) | 学习 | Python |
| 17 | [视频语言模型的时间定位](../../phases/12-multimodal-ai/17-video-language-temporal-grounding/) | 构建 | Python |
| 18 | [百万 Token 上下文中的长视频](../../phases/12-multimodal-ai/18-long-video-million-token/) | 构建 | Python |
| 19 | [音频语言模型：从 Whisper 到 AF3](../../phases/12-multimodal-ai/19-audio-language-whisper-to-af3/) | 构建 | Python |
| 20 | [全模态模型：Thinker-Talker 流式架构](../../phases/12-multimodal-ai/20-omni-models-thinker-talker/) | 构建 | Python |
| 21 | [具身视觉语言动作模型：RT-2、OpenVLA、π0 与 GR00T](../../phases/12-multimodal-ai/21-embodied-vlas-openvla-pi0-groot/) | 学习 | Python |
| 22 | [文档与图表理解](../../phases/12-multimodal-ai/22-document-diagram-understanding/) | 构建 | Python |
| 23 | [ColPali：以视觉为核心的文档 RAG](../../phases/12-multimodal-ai/23-colpali-vision-native-rag/) | 构建 | Python |
| 24 | [多模态 RAG 与跨模态检索](../../phases/12-multimodal-ai/24-multimodal-rag-cross-modal/) | 构建 | Python |
| 25 | [多模态智能体与计算机操作（综合项目）](../../phases/12-multimodal-ai/25-multimodal-agents-computer-use/) | 构建 | Python |
阶段 13 — 工具与协议 31 节课 理解 AI 系统连接现实世界的接口。
| # | 课程 | 类型 | 语言 |
|:---:|--------|:----:|------|
| 01 | [工具接口](../../phases/13-tools-and-protocols/01-the-tool-interface/) | 学习 | Python |
| 02 | [深入理解函数调用](../../phases/13-tools-and-protocols/02-function-calling-deep-dive/) | 构建 | Python |
| 03 | [并行与流式工具调用](../../phases/13-tools-and-protocols/03-parallel-and-streaming-tool-calls/) | 构建 | Python |
| 04 | [结构化输出](../../phases/13-tools-and-protocols/04-structured-output/) | 构建 | Python |
| 05 | [工具 Schema 设计](../../phases/13-tools-and-protocols/05-tool-schema-design/) | 学习 | Python |
| 06 | [MCP 基础：无状态请求与 JSON-RPC](../../phases/13-tools-and-protocols/06-mcp-fundamentals/) | 学习 | Python |
| 07 | [构建 MCP 服务器：无状态 Python 与 TypeScript](../../phases/13-tools-and-protocols/07-building-an-mcp-server/) | 构建 | Python, TypeScript |
| 08 | [构建 MCP 客户端：发现、路由与新旧协议兼容](../../phases/13-tools-and-protocols/08-building-an-mcp-client/) | 构建 | Python |
| 09 | [MCP 传输：stdio 与无状态 Streamable HTTP](../../phases/13-tools-and-protocols/09-mcp-transports/) | 学习 | Python |
| 10 | [MCP 资源与提示词：无状态服务器的可寻址上下文](../../phases/13-tools-and-protocols/10-mcp-resources-and-prompts/) | 构建 | Python |
| 11 | [MCP 模型输入：Sampling 迁移与无状态 MRTR](../../phases/13-tools-and-protocols/11-mcp-sampling/) | 构建 | Python |
| 12 | [显式范围与无状态信息征询](../../phases/13-tools-and-protocols/12-mcp-roots-and-elicitation/) | 构建 | Python |
| 13 | [MCP Tasks 扩展：在无状态核心上持久执行任务](../../phases/13-tools-and-protocols/13-mcp-async-tasks/) | 构建 | Python |
| 14 | [无状态协议上的 MCP Apps](../../phases/13-tools-and-protocols/14-mcp-apps/) | 构建 | Python |
| 15 | [MCP 安全：被污染的元数据、路由与 MRTR 状态](../../phases/13-tools-and-protocols/15-mcp-security-tool-poisoning/) | 学习 | Python |
| 16 | [MCP 授权：CIMD、签发者绑定、PKCE 与逐步提权](../../phases/13-tools-and-protocols/16-mcp-security-oauth-2-1/) | 构建 | Python |
| 17 | [无状态 MCP 网关与注册表准入](../../phases/13-tools-and-protocols/17-mcp-gateways-and-registries/) | 学习 | Python |
| 18 | [生产环境中的 MCP 认证：签发者绑定的注册与令牌](../../phases/13-tools-and-protocols/18-mcp-auth-production/) | 构建 | Python |
| 19 | [A2A 协议](../../phases/13-tools-and-protocols/19-a2a-protocol/) | 构建 | Python |
| 20 | [OpenTelemetry GenAI](../../phases/13-tools-and-protocols/20-opentelemetry-genai/) | 构建 | Python |
| 21 | [LLM 路由层](../../phases/13-tools-and-protocols/21-llm-routing-layer/) | 学习 | Python |
| 22 | [Agent Skills：可移植契约与运行时边界](../../phases/13-tools-and-protocols/22-skills-and-agent-sdks/) | 构建 | Python |
| 23 | [综合项目：无状态工具生态](../../phases/13-tools-and-protocols/23-capstone-tool-ecosystem/) | 构建 | Python |
| 24 | [技能发现与渐进式披露](../../phases/13-tools-and-protocols/24-skill-discovery-and-progressive-disclosure/) | 构建 | Python |
| 25 | [技能调用与路由](../../phases/13-tools-and-protocols/25-skill-invocation-and-routing/) | 构建 | Python |
| 26 | [技能权限、沙盒与信任](../../phases/13-tools-and-protocols/26-skill-permissions-sandboxes-and-trust/) | 构建 | Python |
| 27 | [技能评估、打包与可移植性](../../phases/13-tools-and-protocols/27-skill-evals-packaging-and-portability/) | 构建 | Python |
| 28 | [MCP 工具契约与内容](../../phases/13-tools-and-protocols/28-mcp-tool-contracts-and-content/) | 构建 | Python |
| 29 | [MCP 可靠性：取消与流量控制](../../phases/13-tools-and-protocols/29-mcp-reliability-cancellation-and-flow-control/) | 构建 | Python |
| 30 | [MCP 注册表供应链：准入、漂移与回滚](../../phases/13-tools-and-protocols/30-mcp-registry-supply-chain-and-drift/) | 构建 | Python |
| 31 | [MCP 一致性工程：版本、证据与运维](../../phases/13-tools-and-protocols/31-mcp-conformance-versioning-and-operations/) | 构建 | Python |
第 06–18、28–31 课构成 [模型上下文协议（MCP）专项学习路径](../../learning-paths/model-context-protocol.json)。路线清单规定的顺序为 06、07、08、09、10、11、12、13、14、15、16、18、17、28、29、30、31；按上文对应宿主的方式调用 `learn-mcp` 开始学习。第 23 课是唯一的可选综合项目，还需要先完成第 19、20 课。
第 22、24–27 课构成 [Agent Skills 专项学习路径](../../learning-paths/agent-skills.json)，从技能包契约一直学到真实宿主中的发布验收。按上文对应宿主的方式调用 `learn-agent-skills` 开始学习；完成第 22 课后不要按编号跳到第 23 课。
阶段 14 — 智能体工程 54 节课 从原理构建智能体，可靠地使用编程智能体，并在动手前明确目标。
| # | 课程 | 类型 | 语言 |
|:---:|--------|:----:|------|
| 01 | [智能体循环](../../phases/14-agent-engineering/01-the-agent-loop/) | 构建 | Python |
| 02 | [ReWOO 与“规划—执行”模式](../../phases/14-agent-engineering/02-rewoo-plan-and-execute/) | 构建 | Python |
| 03 | [Reflexion 与语言化强化学习](../../phases/14-agent-engineering/03-reflexion-verbal-rl/) | 构建 | Python |
| 04 | [思维树与 LATS](../../phases/14-agent-engineering/04-tree-of-thoughts-lats/) | 构建 | Python |
| 05 | [Self-Refine 与 CRITIC](../../phases/14-agent-engineering/05-self-refine-and-critic/) | 构建 | Python |
| 06 | [工具使用与函数调用](../../phases/14-agent-engineering/06-tool-use-and-function-calling/) | 构建 | Python |
| 07 | [智能体记忆：虚拟上下文与记忆分页](../../phases/14-agent-engineering/07-memory-virtual-context-memgpt/) | 构建 | Python |
| 08 | [记忆块与空闲时计算](../../phases/14-agent-engineering/08-memory-blocks-sleep-time-compute/) | 构建 | Python |
| 09 | [混合记忆：向量、图与键值存储](../../phases/14-agent-engineering/09-hybrid-memory-mem0/) | 构建 | Python |
| 10 | [技能库与终身学习（Voyager）](../../phases/14-agent-engineering/10-skill-libraries-voyager/) | 构建 | Python |
| 11 | [使用 HTN 与进化搜索进行规划](../../phases/14-agent-engineering/11-planning-htn-and-evolutionary/) | 构建 | Python |
| 12 | [Anthropic 的工作流模式](../../phases/14-agent-engineering/12-anthropic-workflow-patterns/) | 构建 | Python |
| 13 | [有状态图编排：持久执行与检查点](../../phases/14-agent-engineering/13-langgraph-stateful-graphs/) | 构建 | Python |
| 14 | [智能体的 Actor 模型](../../phases/14-agent-engineering/14-autogen-actor-model/) | 构建 | Python |
| 15 | [基于角色的智能体团队：角色、任务与流程](../../phases/14-agent-engineering/15-crewai-role-based-crews/) | 构建 | Python |
| 16 | [OpenAI Agents SDK：移交、护栏与追踪](../../phases/14-agent-engineering/16-openai-agents-sdk/) | 构建 | Python |
| 17 | [将运行框架作为库：子智能体与会话存储](../../phases/14-agent-engineering/17-claude-agent-sdk/) | 构建 | Python |
| 18 | [生产级智能体运行时](../../phases/14-agent-engineering/18-agno-and-mastra-runtimes/) | 学习 | Python |
| 19 | [基准测试：SWE-bench、GAIA 与 AgentBench](../../phases/14-agent-engineering/19-benchmarks-swebench-gaia/) | 学习 | Python |
| 20 | [基准测试：WebArena 与 OSWorld](../../phases/14-agent-engineering/20-benchmarks-webarena-osworld/) | 学习 | Python |
| 21 | [计算机操作：Claude、OpenAI CUA 与 Gemini](../../phases/14-agent-engineering/21-computer-use-agents/) | 构建 | Python |
| 22 | [语音智能体：Pipecat 与 LiveKit](../../phases/14-agent-engineering/22-voice-agents-pipecat-livekit/) | 构建 | Python |
| 23 | [OpenTelemetry GenAI 语义约定](../../phases/14-agent-engineering/23-otel-genai-conventions/) | 构建 | Python |
| 24 | [智能体可观测性：Langfuse、Phoenix 与 Opik](../../phases/14-agent-engineering/24-agent-observability-platforms/) | 学习 | Python |
| 25 | [多智能体辩论与协作](../../phases/14-agent-engineering/25-multi-agent-debate/) | 构建 | Python |
| 26 | [失效模式：智能体为什么会失败](../../phases/14-agent-engineering/26-failure-modes-agentic/) | 构建 | Python |
| 27 | [提示词注入与 PVE 防御](../../phases/14-agent-engineering/27-prompt-injection-defense/) | 构建 | Python |
| 28 | [编排模式：监督者、群体与分层](../../phases/14-agent-engineering/28-orchestration-patterns/) | 构建 | Python |
| 29 | [生产运行时：队列、事件与定时任务](../../phases/14-agent-engineering/29-production-runtimes/) | 学习 | Python |
| 30 | [以评估驱动智能体开发](../../phases/14-agent-engineering/30-eval-driven-agent-development/) | 构建 | Python |
| 31 | [智能体工作台：能力强的模型为何仍会失败](../../phases/14-agent-engineering/31-agent-workbench-why-models-fail/) | 学习 | Python |
| 32 | [最小化智能体工作台](../../phases/14-agent-engineering/32-minimal-agent-workbench/) | 构建 | Python |
| 33 | [把智能体指令变成可执行约束](../../phases/14-agent-engineering/33-instructions-as-executable-constraints/) | 构建 | Python |
| 34 | [仓库记忆与持久状态](../../phases/14-agent-engineering/34-repo-memory-and-state/) | 构建 | Python |
| 35 | [智能体初始化脚本](../../phases/14-agent-engineering/35-initialization-scripts/) | 构建 | Python |
| 36 | [范围契约与任务边界](../../phases/14-agent-engineering/36-scope-contracts/) | 构建 | Python |
| 37 | [运行时反馈循环](../../phases/14-agent-engineering/37-runtime-feedback-loops/) | 构建 | Python |
| 38 | [验证关卡](../../phases/14-agent-engineering/38-verification-gates/) | 构建 | Python |
| 39 | [审阅智能体：把构建与评判分开](../../phases/14-agent-engineering/39-reviewer-agent/) | 构建 | Python |
| 40 | [跨会话交接](../../phases/14-agent-engineering/40-multi-session-handoff/) | 构建 | Python |
| 41 | [在真实仓库中使用工作台](../../phases/14-agent-engineering/41-workbench-for-real-repos/) | 构建 | Python |
| 42 | [综合项目：交付可复用的智能体工作台](../../phases/14-agent-engineering/42-agent-workbench-capstone/) | 构建 | Python |
| 43 | [在智能体写代码前界定任务](../../phases/14-agent-engineering/43-frame-the-task-before-code/) | 构建 | Python |
| 44 | [制定有证据支撑的执行计划](../../phases/14-agent-engineering/44-plan-from-evidence/) | 构建 | Python |
| 45 | [隔离委派智能体工作并约定合并规则](../../phases/14-agent-engineering/45-delegate-with-isolation/) | 构建 | Python |
| 46 | [将每次智能体纠错转化为系统改进](../../phases/14-agent-engineering/46-turn-feedback-into-system/) | 构建 | Python |
| 47 | [先定义成果，再选择产出形式](../../phases/14-agent-engineering/47-outcomes-before-output/) | 构建 | Python |
| 48 | [找到人们实际执行的工作流程](../../phases/14-agent-engineering/48-discover-the-real-workflow/) | 构建 | Python |
| 49 | [梳理假设，优先化解最大风险](../../phases/14-agent-engineering/49-map-assumptions-and-risk/) | 构建 | Python |
| 50 | [选择能影响决策的最小可测试单元](../../phases/14-agent-engineering/50-choose-the-smallest-testable-slice/) | 构建 | Python |
| 51 | [编写保留判断空间的规格说明](../../phases/14-agent-engineering/51-write-specifications-that-preserve-judgment/) | 构建 | Python |
| 52 | [在结果出现前设计成功指标](../../phases/14-agent-engineering/52-design-success-metrics/) | 构建 | Python |
| 53 | [有意识地选择原型、试点或生产部署](../../phases/14-agent-engineering/53-prototype-pilot-or-production/) | 构建 | Python |
| 54 | [建立有责任归属和退出机制的反馈棘轮](../../phases/14-agent-engineering/54-build-the-feedback-ratchet/) | 构建 | Python |
阶段 14 的每节工作台课程（第 31–42 课）都附带 `mission.md`，让智能体在阅读完整课程文档前先了解任务。
第 31–46 课构成 [智能体辅助工程路径](../../learning-paths/using-coding-agents.json)：路线清单把工作台基础与任务界定、规划、委派和持续反馈串联起来。第 47–54 课构成 [产品判断与交付路径](../../learning-paths/shaping-the-build.json)，依次学习界定成果、收集证据、评估风险、控制范围、设计指标、分阶段发布及明确反馈责任。
阶段 15 — 自主系统 22 节课 学习长程任务智能体、自我改进与 2026 年的安全机制。
| # | 课程 | 类型 | 语言 |
|:---:|--------|:----:|------|
| 01 | [从聊天机器人到长程任务智能体（METR）](../../phases/15-autonomous-systems/01-long-horizon-agents/) | 学习 | Python |
| 02 | [STaR、V-STaR、Quiet-STaR：自学式推理](../../phases/15-autonomous-systems/02-star-family-reasoning/) | 学习 | Python |
| 03 | [AlphaEvolve：进化式编程智能体](../../phases/15-autonomous-systems/03-alphaevolve-evolutionary-coding/) | 学习 | Python |
| 04 | [达尔文—哥德尔机器：可自我修改的智能体](../../phases/15-autonomous-systems/04-darwin-godel-machine/) | 学习 | Python |
| 05 | [AI Scientist v2：达到学术研讨会水平的研究](../../phases/15-autonomous-systems/05-ai-scientist-v2/) | 学习 | Python |
| 06 | [自动化对齐研究（Anthropic AAR）](../../phases/15-autonomous-systems/06-automated-alignment-research/) | 学习 | Python |
| 07 | [递归式自我改进：能力与对齐的权衡](../../phases/15-autonomous-systems/07-recursive-self-improvement/) | 学习 | Python |
| 08 | [有边界的自我改进设计](../../phases/15-autonomous-systems/08-bounded-self-improvement/) | 学习 | Python |
| 09 | [自主编程智能体全景：SWE-bench 与 CodeAct](../../phases/15-autonomous-systems/09-coding-agent-landscape/) | 学习 | Python |
| 10 | [自主智能体的权限模式](../../phases/15-autonomous-systems/10-claude-code-permission-modes/) | 学习 | Python |
| 11 | [浏览器智能体与间接提示词注入](../../phases/15-autonomous-systems/11-browser-agents/) | 学习 | Python |
| 12 | [长时间运行智能体的持久执行](../../phases/15-autonomous-systems/12-durable-execution/) | 学习 | Python |
| 13 | [行动预算、迭代上限与成本控制](../../phases/15-autonomous-systems/13-cost-governors/) | 学习 | Python |
| 14 | [终止开关、断路器与金丝雀令牌](../../phases/15-autonomous-systems/14-kill-switches-canaries/) | 学习 | Python |
| 15 | [人在回路：先提案、后提交](../../phases/15-autonomous-systems/15-propose-then-commit/) | 学习 | Python |
| 16 | [检查点与回滚](../../phases/15-autonomous-systems/16-checkpoints-rollback/) | 学习 | Python |
| 17 | [宪法式 AI 与规则覆盖](../../phases/15-autonomous-systems/17-constitutional-ai/) | 学习 | Python |
| 18 | [Llama Guard 与输入输出分类](../../phases/15-autonomous-systems/18-llama-guard/) | 学习 | Python |
| 19 | [Anthropic 负责任扩展政策 v3.0](../../phases/15-autonomous-systems/19-anthropic-rsp/) | 学习 | Python |
| 20 | [OpenAI 准备度框架与 DeepMind FSF](../../phases/15-autonomous-systems/20-openai-preparedness-deepmind-fsf/) | 学习 | Python |
| 21 | [METR 时间跨度与外部评估](../../phases/15-autonomous-systems/21-metr-external-evaluation/) | 学习 | Python |
| 22 | [CAIS、CAISI 与社会规模风险](../../phases/15-autonomous-systems/22-cais-caisi-societal-risk/) | 学习 | Python |
阶段 16 — 多智能体与群体智能 25 节课 研究协调、涌现和集体智能。
| # | 课程 | 类型 | 语言 |
|:---:|--------|:----:|------|
| 01 | [为什么需要多智能体](../../phases/16-multi-agent-and-swarms/01-why-multi-agent/) | 学习 | TypeScript |
| 02 | [FIPA-ACL 的历史与言语行为](../../phases/16-multi-agent-and-swarms/02-fipa-acl-heritage/) | 学习 | Python |
| 03 | [通信协议](../../phases/16-multi-agent-and-swarms/03-communication-protocols/) | 构建 | TypeScript |
| 04 | [多智能体基本模型](../../phases/16-multi-agent-and-swarms/04-primitive-model/) | 学习 | Python |
| 05 | [监督者 / 编排者—工作者模式](../../phases/16-multi-agent-and-swarms/05-supervisor-orchestrator-pattern/) | 构建 | Python |
| 06 | [分层架构与任务分解漂移](../../phases/16-multi-agent-and-swarms/06-hierarchical-architecture/) | 学习 | Python |
| 07 | [心智社会与多智能体辩论](../../phases/16-multi-agent-and-swarms/07-society-of-mind-debate/) | 构建 | Python |
| 08 | [角色分工：规划者、批评者、执行者与验证者](../../phases/16-multi-agent-and-swarms/08-role-specialization/) | 构建 | Python |
| 09 | [并行群体与网络化架构](../../phases/16-multi-agent-and-swarms/09-parallel-swarm-networks/) | 构建 | Python |
| 10 | [群聊与发言者选择](../../phases/16-multi-agent-and-swarms/10-group-chat-speaker-selection/) | 构建 | Python |
| 11 | [移交与例程：无状态编排](../../phases/16-multi-agent-and-swarms/11-handoffs-and-routines/) | 构建 | Python |
| 12 | [A2A：智能体间协议](../../phases/16-multi-agent-and-swarms/12-a2a-protocol/) | 构建 | Python |
| 13 | [共享记忆与黑板模式](../../phases/16-multi-agent-and-swarms/13-shared-memory-blackboard/) | 构建 | Python |
| 14 | [共识与拜占庭容错](../../phases/16-multi-agent-and-swarms/14-consensus-and-bft/) | 构建 | Python |
| 15 | [投票、自洽性与辩论拓扑](../../phases/16-multi-agent-and-swarms/15-voting-debate-topology/) | 构建 | Python |
| 16 | [协商与议价](../../phases/16-multi-agent-and-swarms/16-negotiation-bargaining/) | 构建 | Python |
| 17 | [生成式智能体与涌现式模拟](../../phases/16-multi-agent-and-swarms/17-generative-agents-simulation/) | 构建 | Python |
| 18 | [心智理论与涌现式协作](../../phases/16-multi-agent-and-swarms/18-theory-of-mind-coordination/) | 构建 | Python |
| 19 | [群体优化：PSO 与 ACO](../../phases/16-multi-agent-and-swarms/19-swarm-optimization-pso-aco/) | 构建 | Python |
| 20 | [多智能体强化学习：MADDPG、QMIX 与 MAPPO](../../phases/16-multi-agent-and-swarms/20-marl-maddpg-qmix-mappo/) | 学习 | Python |
| 21 | [智能体经济：Token 激励与声誉](../../phases/16-multi-agent-and-swarms/21-agent-economies/) | 学习 | Python |
| 22 | [生产扩展：队列、检查点与持久性](../../phases/16-multi-agent-and-swarms/22-production-scaling-queues-checkpoints/) | 构建 | Python |
| 23 | [失效模式：MAST、群体思维与单一化](../../phases/16-multi-agent-and-swarms/23-failure-modes-mast-groupthink/) | 学习 | Python |
| 24 | [评估与协作基准](../../phases/16-multi-agent-and-swarms/24-evaluation-coordination-benchmarks/) | 学习 | Python |
| 25 | [案例研究与 2026 年最新进展](../../phases/16-multi-agent-and-swarms/25-case-studies-2026-sota/) | 学习 | Python |
阶段 17 — 基础设施与生产部署 28 节课 把 AI 系统真正交付到现实场景。
| # | 课程 | 类型 | 语言 |
|:---:|--------|:----:|------|
| 01 | [托管式 LLM 平台：Bedrock、Azure OpenAI 与 Vertex AI](../../phases/17-infrastructure-and-production/01-managed-llm-platforms/) | 学习 | Python |
| 02 | [推理平台经济学：Fireworks、Together、Baseten 与 Modal](../../phases/17-infrastructure-and-production/02-inference-platform-economics/) | 学习 | Python |
| 03 | [Kubernetes 上的 GPU 自动扩缩容：Karpenter 与 KAI Scheduler](../../phases/17-infrastructure-and-production/03-gpu-autoscaling-kubernetes/) | 学习 | Python |
| 04 | [推理服务引擎内部机制：PagedAttention、连续批处理与分块预填充](../../phases/17-infrastructure-and-production/04-vllm-serving-internals/) | 学习 | Python |
| 05 | [生产环境中的 EAGLE-3 推测解码](../../phases/17-infrastructure-and-production/05-eagle3-speculative-decoding/) | 学习 | Python |
| 06 | [前缀缓存推理服务：RadixAttention 与 KV 复用](../../phases/17-infrastructure-and-production/06-sglang-radixattention/) | 学习 | Python |
| 07 | [面向硬件的推理编译：Blackwell 上的 FP8 与 NVFP4](../../phases/17-infrastructure-and-production/07-tensorrt-llm-blackwell/) | 学习 | Python |
| 08 | [推理指标：TTFT、TPOT、ITL、Goodput 与 P99](../../phases/17-infrastructure-and-production/08-inference-metrics-goodput/) | 学习 | Python |
| 09 | [生产级量化：AWQ、GPTQ、GGUF、FP8 与 NVFP4](../../phases/17-infrastructure-and-production/09-production-quantization/) | 学习 | Python |
| 10 | [缓解无服务器 LLM 的冷启动](../../phases/17-infrastructure-and-production/10-cold-start-mitigation/) | 学习 | Python |
| 11 | [多区域 LLM 服务与 KV 缓存局部性](../../phases/17-infrastructure-and-production/11-multi-region-kv-locality/) | 学习 | Python |
| 12 | [边缘推理：ANE、Hexagon、WebGPU 与 Jetson](../../phases/17-infrastructure-and-production/12-edge-inference/) | 学习 | Python |
| 13 | [选择 LLM 可观测性技术栈](../../phases/17-infrastructure-and-production/13-llm-observability/) | 学习 | Python |
| 14 | [提示词缓存与语义缓存的经济性](../../phases/17-infrastructure-and-production/14-prompt-semantic-caching/) | 学习 | Python |
| 15 | [批量 API：成为行业标准的五折价格](../../phases/17-infrastructure-and-production/15-batch-apis/) | 学习 | Python |
| 16 | [模型路由：降低成本的基本手段](../../phases/17-infrastructure-and-production/16-model-routing/) | 学习 | Python |
| 17 | [预填充与解码分离：NVIDIA Dynamo 与 llm-d](../../phases/17-infrastructure-and-production/17-disaggregated-prefill-decode/) | 学习 | Python |
| 18 | [生产级推理服务栈：KV 卸载与缓存感知路由](../../phases/17-infrastructure-and-production/18-vllm-production-stack-lmcache/) | 学习 | Python |
| 19 | [AI 网关：LiteLLM、Portkey、Kong 与 Bifrost](../../phases/17-infrastructure-and-production/19-ai-gateways/) | 学习 | Python |
| 20 | [影子部署、金丝雀发布与渐进式上线](../../phases/17-infrastructure-and-production/20-shadow-canary-progressive/) | 学习 | Python |
| 21 | [LLM 功能的 A/B 测试：GrowthBook 与 Statsig](../../phases/17-infrastructure-and-production/21-ab-testing-llm-features/) | 学习 | Python |
| 22 | [LLM API 负载测试：k6、LLMPerf 与 GenAI-Perf](../../phases/17-infrastructure-and-production/22-load-testing-llm-apis/) | 构建 | Python |
| 23 | [面向 AI 的 SRE：多智能体事件响应](../../phases/17-infrastructure-and-production/23-sre-for-ai/) | 学习 | Python |
| 24 | [LLM 生产系统中的混沌工程](../../phases/17-infrastructure-and-production/24-chaos-engineering-llm/) | 学习 | Python |
| 25 | [安全：密钥、PII 清理与审计日志](../../phases/17-infrastructure-and-production/25-security-secrets-audit/) | 学习 | Python |
| 26 | [合规：SOC 2、HIPAA、GDPR、欧盟 AI 法案与 ISO 42001](../../phases/17-infrastructure-and-production/26-compliance-frameworks/) | 学习 | Python |
| 27 | [面向 LLM 的 FinOps：单位经济性与多租户成本归因](../../phases/17-infrastructure-and-production/27-finops-llms/) | 学习 | Python |
| 28 | [自托管推理服务选型：按硬件与规模匹配引擎](../../phases/17-infrastructure-and-production/28-self-hosted-serving-selection/) | 学习 | Python |
阶段 18 — 伦理、安全与对齐 30 节课 构建真正有益于人的 AI；安全不是选修项。
| # | 课程 | 类型 | 语言 |
|:---:|--------|:----:|------|
| 01 | [指令遵循作为对齐信号](../../phases/18-ethics-safety-alignment/01-instruction-following-alignment-signal/) | 学习 | Python |
| 02 | [奖励黑客与古德哈特定律](../../phases/18-ethics-safety-alignment/02-reward-hacking-goodhart/) | 学习 | Python |
| 03 | [直接偏好优化方法族](../../phases/18-ethics-safety-alignment/03-direct-preference-optimization-family/) | 学习 | Python |
| 04 | [谄媚行为如何被 RLHF 放大](../../phases/18-ethics-safety-alignment/04-sycophancy-rlhf-amplification/) | 学习 | Python |
| 05 | [宪法式 AI 与 RLAIF](../../phases/18-ethics-safety-alignment/05-constitutional-ai-rlaif/) | 学习 | Python |
| 06 | [内部优化（Mesa-Optimization）与欺骗性对齐](../../phases/18-ethics-safety-alignment/06-mesa-optimization-deceptive-alignment/) | 学习 | Python |
| 07 | [潜伏智能体：持续性欺骗](../../phases/18-ethics-safety-alignment/07-sleeper-agents-persistent-deception/) | 学习 | Python |
| 08 | [前沿模型的上下文内谋划](../../phases/18-ethics-safety-alignment/08-in-context-scheming-frontier-models/) | 学习 | Python |
| 09 | [伪装对齐](../../phases/18-ethics-safety-alignment/09-alignment-faking/) | 学习 | Python |
| 10 | [AI 控制：在系统试图规避时仍保持安全](../../phases/18-ethics-safety-alignment/10-ai-control-subversion/) | 学习 | Python |
| 11 | [可扩展监督与弱模型指导强模型](../../phases/18-ethics-safety-alignment/11-scalable-oversight-weak-to-strong/) | 学习 | Python |
| 12 | [红队测试：PAIR 与自动化攻击](../../phases/18-ethics-safety-alignment/12-red-teaming-pair-automated-attacks/) | 构建 | Python |
| 13 | [多样本越狱](../../phases/18-ethics-safety-alignment/13-many-shot-jailbreaking/) | 学习 | Python |
| 14 | [ASCII 艺术与视觉越狱](../../phases/18-ethics-safety-alignment/14-ascii-art-visual-jailbreaks/) | 构建 | Python |
| 15 | [间接提示词注入](../../phases/18-ethics-safety-alignment/15-indirect-prompt-injection/) | 构建 | Python |
| 16 | [红队工具：Garak、Llama Guard 与 PyRIT](../../phases/18-ethics-safety-alignment/16-red-team-tooling-garak-llamaguard-pyrit/) | 构建 | Python |
| 17 | [WMDP 与双重用途能力评估](../../phases/18-ethics-safety-alignment/17-wmdp-dual-use-evaluation/) | 学习 | Python |
| 18 | [前沿模型安全框架：RSP、PF 与 FSF](../../phases/18-ethics-safety-alignment/18-frontier-safety-frameworks-rsp-pf-fsf/) | 学习 | Python |
| 19 | [模型福利研究](../../phases/18-ethics-safety-alignment/19-model-welfare-research/) | 学习 | Python |
| 20 | [偏见与表征伤害](../../phases/18-ethics-safety-alignment/20-bias-representational-harm/) | 构建 | Python |
| 21 | [公平性标准：群体、个体与反事实](../../phases/18-ethics-safety-alignment/21-fairness-criteria-group-individual-counterfactual/) | 学习 | Python |
| 22 | [面向 LLM 的差分隐私](../../phases/18-ethics-safety-alignment/22-differential-privacy-for-llms/) | 构建 | Python |
| 23 | [水印：SynthID、Stable Signature 与 C2PA](../../phases/18-ethics-safety-alignment/23-watermarking-synthid-stable-signature-c2pa/) | 构建 | Python |
| 24 | [监管框架：欧盟、美国、英国与韩国](../../phases/18-ethics-safety-alignment/24-regulatory-frameworks-eu-us-uk-korea/) | 学习 | Python |
| 25 | [EchoLeak 与 AI 系统的 CVE](../../phases/18-ethics-safety-alignment/25-echoleak-cves-for-ai/) | 学习 | Python |
| 26 | [模型卡、系统卡与数据集卡](../../phases/18-ethics-safety-alignment/26-model-system-dataset-cards/) | 构建 | Python |
| 27 | [数据来源追溯与训练数据治理](../../phases/18-ethics-safety-alignment/27-data-provenance-training-governance/) | 学习 | Python |
| 28 | [对齐研究生态：MATS、Redwood、Apollo 与 METR](../../phases/18-ethics-safety-alignment/28-alignment-research-ecosystem/) | 学习 | Python |
| 29 | [内容审核系统：OpenAI、Perspective 与 Llama Guard](../../phases/18-ethics-safety-alignment/29-moderation-systems-openai-perspective-llamaguard/) | 构建 | Python |
| 30 | [双重用途风险：网络、生物、化学与核领域](../../phases/18-ethics-safety-alignment/30-dual-use-risk-cyber-bio-chem-nuclear/) | 学习 | Python |
阶段 19 — 综合项目 85 节课 17 个端到端产品与 9 条深度实践路线；每个项目需 20–40 小时，每条路线包含 4–12 节课。
| # | 项目 | 综合阶段 | 语言 |
|:---:|---------|----------|------|
| 01 | [终端原生编程智能体](../../phases/19-capstone-projects/01-terminal-native-coding-agent/) | P0 P5 P7 P10 P11 P13 P14 P15 P17 P18 | Python |
| 02 | [面向代码库的 RAG：跨仓库语义搜索](../../phases/19-capstone-projects/02-rag-over-codebase/) | P5 P7 P11 P13 P17 | Python |
| 03 | [实时语音助手（ASR → LLM → TTS）](../../phases/19-capstone-projects/03-realtime-voice-assistant/) | P6 P7 P11 P13 P14 P17 | Python |
| 04 | [多模态文档问答：视觉优先](../../phases/19-capstone-projects/04-multimodal-document-qa/) | P4 P5 P7 P11 P12 P17 | Python |
| 05 | [自主研究智能体（AI Scientist 类）](../../phases/19-capstone-projects/05-autonomous-research-agent/) | P0 P2 P3 P7 P10 P14 P15 P16 P18 | Python |
| 06 | [面向 Kubernetes 的 DevOps 故障排查智能体](../../phases/19-capstone-projects/06-devops-troubleshooting-agent/) | P11 P13 P14 P15 P17 P18 | Python |
| 07 | [端到端微调流水线](../../phases/19-capstone-projects/07-end-to-end-fine-tuning-pipeline/) | P2 P3 P7 P10 P11 P17 P18 | Python |
| 08 | [生产级 RAG 聊天机器人：受监管领域](../../phases/19-capstone-projects/08-production-rag-chatbot/) | P5 P7 P11 P12 P17 P18 | Python |
| 09 | [代码迁移智能体：仓库级升级](../../phases/19-capstone-projects/09-code-migration-agent/) | P5 P7 P11 P13 P14 P15 P17 | Python |
| 10 | [多智能体软件工程团队](../../phases/19-capstone-projects/10-multi-agent-software-team/) | P11 P13 P14 P15 P16 P17 | Python |
| 11 | [LLM 可观测性与评估仪表盘](../../phases/19-capstone-projects/11-llm-observability-dashboard/) | P11 P13 P17 P18 | Python |
| 12 | [视频理解流水线：从场景到问答](../../phases/19-capstone-projects/12-video-understanding-pipeline/) | P4 P6 P7 P11 P12 P17 | Python |
| 13 | [具备注册表与治理机制的无状态 MCP 服务器](../../phases/19-capstone-projects/13-mcp-server-with-registry/) | P11 P13 P14 P17 P18 | Python |
| 14 | [推测解码推理服务器](../../phases/19-capstone-projects/14-speculative-decoding-server/) | P3 P7 P10 P17 | Python |
| 15 | [宪法式安全测试框架与红队演练环境](../../phases/19-capstone-projects/15-constitutional-safety-harness/) | P10 P11 P13 P14 P18 | Python |
| 16 | [从 GitHub Issue 到 PR 的自主智能体](../../phases/19-capstone-projects/16-github-issue-to-pr-agent/) | P11 P13 P14 P15 P17 | Python |
| 17 | [自适应多模态个人 AI 导师](../../phases/19-capstone-projects/17-personal-ai-tutor/) | P5 P6 P11 P12 P14 P17 P18 | Python |
**深度实践路线**：每条路线由多节课组成，带你从零构建一个完整子系统。
| # | 项目 | 综合阶段 | 语言 |
|:---:|---------|----------|------|
| 20 | [智能体运行框架的循环契约](../../phases/19-capstone-projects/20-agent-harness-loop-contract/) | A. 智能体运行框架 | Python |
| 21 | [带 Schema 验证的工具注册表](../../phases/19-capstone-projects/21-tool-registry-schema-validation/) | A. 智能体运行框架 | Python |
| 22 | [基于换行分隔 stdio 的 JSON-RPC 2.0 传输](../../phases/19-capstone-projects/22-jsonrpc-stdio-transport/) | A. 智能体运行框架 | Python |
| 23 | [函数调用分发器](../../phases/19-capstone-projects/23-function-call-dispatcher/) | A. 智能体运行框架 | Python |
| 24 | [“规划—执行”控制流](../../phases/19-capstone-projects/24-plan-execute-control-flow/) | A. 智能体运行框架 | Python |
| 25 | [验证关卡与观察预算](../../phases/19-capstone-projects/25-verification-gates-observation-budget/) | A. 智能体运行框架 | Python |
| 26 | [带拒绝列表与路径隔离的沙盒运行器](../../phases/19-capstone-projects/26-sandbox-runner-denylist/) | A. 智能体运行框架 | Python |
| 27 | [基于固定任务的评估框架](../../phases/19-capstone-projects/27-eval-harness-fixture-tasks/) | A. 智能体运行框架 | Python |
| 28 | [基于 OTel GenAI Span 与 Prometheus 指标的可观测性](../../phases/19-capstone-projects/28-observability-otel-traces/) | A. 智能体运行框架 | Python |
| 29 | [在运行框架上完成端到端编程任务](../../phases/19-capstone-projects/29-end-to-end-coding-task-demo/) | A. 智能体运行框架 | Python |
| 30 | [从零实现 BPE 分词器](../../phases/19-capstone-projects/30-bpe-tokenizer-from-scratch/) | B. NLP 与 LLM | Python |
| 31 | [使用滑动窗口的分词数据集](../../phases/19-capstone-projects/31-tokenized-dataset-sliding-window/) | B. NLP 与 LLM | Python |
| 32 | [Token 嵌入与位置嵌入](../../phases/19-capstone-projects/32-token-positional-embeddings/) | B. NLP 与 LLM | Python |
| 33 | [多头自注意力](../../phases/19-capstone-projects/33-multihead-self-attention/) | B. NLP 与 LLM | Python |
| 34 | [从零实现 Transformer 模块](../../phases/19-capstone-projects/34-transformer-block/) | B. NLP 与 LLM | Python |
| 35 | [组装 GPT 模型](../../phases/19-capstone-projects/35-gpt-model-assembly/) | B. NLP 与 LLM | Python |
| 36 | [训练循环与评估](../../phases/19-capstone-projects/36-training-loop-eval/) | B. NLP 与 LLM | Python |
| 37 | [加载预训练权重](../../phases/19-capstone-projects/37-loading-pretrained-weights/) | B. NLP 与 LLM | Python |
| 38 | [更换分类头并微调分类器](../../phases/19-capstone-projects/38-classifier-finetuning/) | B. NLP 与 LLM | Python |
| 39 | [监督式指令微调](../../phases/19-capstone-projects/39-instruction-tuning-sft/) | B. NLP 与 LLM | Python |
| 40 | [从零实现直接偏好优化](../../phases/19-capstone-projects/40-dpo-from-scratch/) | B. NLP 与 LLM | Python |
| 41 | [完整评估流水线](../../phases/19-capstone-projects/41-eval-pipeline/) | B. NLP 与 LLM | Python |
| 42 | [大规模语料下载器](../../phases/19-capstone-projects/42-large-corpus-downloader/) | C. 端到端训练 | Python |
| 43 | [HDF5 分词语料](../../phases/19-capstone-projects/43-hdf5-tokenized-corpus/) | C. 端到端训练 | Python |
| 44 | [带线性预热的余弦学习率](../../phases/19-capstone-projects/44-cosine-lr-warmup/) | C. 端到端训练 | Python |
| 45 | [梯度裁剪与混合精度](../../phases/19-capstone-projects/45-gradient-clipping-amp/) | C. 端到端训练 | Python |
| 46 | [梯度累积](../../phases/19-capstone-projects/46-gradient-accumulation/) | C. 端到端训练 | Python |
| 47 | [保存检查点并恢复训练](../../phases/19-capstone-projects/47-checkpoint-save-resume/) | C. 端到端训练 | Python |
| 48 | [从零实现分布式数据并行与 FSDP](../../phases/19-capstone-projects/48-distributed-fsdp-ddp/) | C. 端到端训练 | Python |
| 49 | [语言模型评估框架](../../phases/19-capstone-projects/49-lm-eval-harness/) | C. 端到端训练 | Python |
| 50 | [假设生成器](../../phases/19-capstone-projects/50-hypothesis-generator/) | D. 自动化研究 | Python |
| 51 | [文献检索](../../phases/19-capstone-projects/51-literature-retrieval/) | D. 自动化研究 | Python |
| 52 | [实验运行器](../../phases/19-capstone-projects/52-experiment-runner/) | D. 自动化研究 | Python |
| 53 | [结果评估器](../../phases/19-capstone-projects/53-result-evaluator/) | D. 自动化研究 | Python |
| 54 | [论文写作器](../../phases/19-capstone-projects/54-paper-writer/) | D. 自动化研究 | Python |
| 55 | [批评与修正循环](../../phases/19-capstone-projects/55-critic-loop/) | D. 自动化研究 | Python |
| 56 | [迭代调度器](../../phases/19-capstone-projects/56-iteration-scheduler/) | D. 自动化研究 | Python |
| 57 | [端到端研究演示](../../phases/19-capstone-projects/57-end-to-end-research-demo/) | D. 自动化研究 | Python |
| 58 | [视觉编码器的图像块](../../phases/19-capstone-projects/58-vision-encoder-patches/) | E. 多模态 VLM | Python |
| 59 | [视觉 Transformer 编码器](../../phases/19-capstone-projects/59-vit-transformer/) | E. 多模态 VLM | Python |
| 60 | [用于模态对齐的投影层](../../phases/19-capstone-projects/60-projection-layer-modality-align/) | E. 多模态 VLM | Python |
| 61 | [交叉注意力融合](../../phases/19-capstone-projects/61-cross-attention-fusion/) | E. 多模态 VLM | Python |
| 62 | [视觉语言预训练](../../phases/19-capstone-projects/62-vision-language-pretraining/) | E. 多模态 VLM | Python |
| 63 | [多模态评估](../../phases/19-capstone-projects/63-multimodal-eval/) | E. 多模态 VLM | Python |
| 64 | [切块策略对比](../../phases/19-capstone-projects/64-chunking-strategies-advanced/) | F. 高级 RAG | Python |
| 65 | [结合 BM25 与密集嵌入的混合检索](../../phases/19-capstone-projects/65-hybrid-retrieval-bm25-dense/) | F. 高级 RAG | Python |
| 66 | [交叉编码器重排序器](../../phases/19-capstone-projects/66-reranker-cross-encoder/) | F. 高级 RAG | Python |
| 67 | [查询改写：HyDE、多查询与问题分解](../../phases/19-capstone-projects/67-query-rewriting-hyde/) | F. 高级 RAG | Python |
| 68 | [RAG 评估：精确率、召回率、MRR、nDCG、忠实度与答案相关性](../../phases/19-capstone-projects/68-rag-eval-precision-recall/) | F. 高级 RAG | Python |
| 69 | [端到端 RAG 系统](../../phases/19-capstone-projects/69-end-to-end-rag-system/) | F. 高级 RAG | Python |
| 70 | [任务规格格式](../../phases/19-capstone-projects/70-task-spec-format/) | G. 评估框架 | Python |
| 71 | [经典评估指标](../../phases/19-capstone-projects/71-classical-metrics/) | G. 评估框架 | Python |
| 72 | [代码执行指标](../../phases/19-capstone-projects/72-code-exec-metric/) | G. 评估框架 | Python |
| 73 | [困惑度与校准](../../phases/19-capstone-projects/73-perplexity-calibration/) | G. 评估框架 | Python |
| 74 | [排行榜汇总](../../phases/19-capstone-projects/74-leaderboard-aggregation/) | G. 评估框架 | Python |
| 75 | [端到端评估运行器](../../phases/19-capstone-projects/75-end-to-end-eval-runner/) | G. 评估框架 | Python |
| 76 | [从零实现集合通信操作](../../phases/19-capstone-projects/76-collective-ops-from-scratch/) | H. 分布式训练 | Python |
| 77 | [从零实现 DDP 数据并行](../../phases/19-capstone-projects/77-data-parallel-ddp/) | H. 分布式训练 | Python |
| 78 | [ZeRO 优化器状态分片](../../phases/19-capstone-projects/78-zero-parameter-sharding/) | H. 分布式训练 | Python |
| 79 | [流水线并行与气泡分析](../../phases/19-capstone-projects/79-pipeline-parallel/) | H. 分布式训练 | Python |
| 80 | [分片检查点与原子恢复](../../phases/19-capstone-projects/80-checkpoint-sharded-resume/) | H. 分布式训练 | Python |
| 81 | [端到端分布式训练](../../phases/19-capstone-projects/81-end-to-end-distributed-train/) | H. 分布式训练 | Python |
| 82 | [越狱方式分类](../../phases/19-capstone-projects/82-jailbreak-taxonomy/) | I. 安全测试框架 | Python |
| 83 | [提示词注入检测器](../../phases/19-capstone-projects/83-prompt-injection-detector/) | I. 安全测试框架 | Python |
| 84 | [拒绝回答评估](../../phases/19-capstone-projects/84-refusal-evaluation/) | I. 安全测试框架 | Python |
| 85 | [内容分类器集成](../../phases/19-capstone-projects/85-content-classifier-integration/) | I. 安全测试框架 | Python |
| 86 | [宪法式规则引擎](../../phases/19-capstone-projects/86-constitutional-rules-engine/) | I. 安全测试框架 | Python, YAML |
| 87 | [端到端安全关卡](../../phases/19-capstone-projects/87-end-to-end-safety-gate/) | I. 安全测试框架 | Python |
## 书籍与认证
将核心课程当作一本书来读
`phases/` 下的 20 个阶段可编成六卷电子书。CI 使用同一份课程源文件构建 EPUB 和 PDF，并把它们附在每次 [GitHub 发布](https://github.com/rohitg00/ai-engineering-from-scratch/releases)中；下表链接始终指向最新版本。卷号表示系列顺序，不是版本号；每份文件都标注编制日期，旧版本仍可从历史发布页下载。
认证课程不会编入这套电子书。它们的 AI 导师进度、可运行实验、交互图示、诊断测验和限时模拟考试仍保留在 GitHub 与课程网站上。
| 卷 | 主题 | 阶段 | 下载 |
|---|---|---|---|
| 1 | 基础：数学、工具与经典机器学习 | 00–02 | [EPUB](https://github.com/rohitg00/ai-engineering-from-scratch/releases/latest/download/aiefs-vol1-foundations.epub) · [PDF](https://github.com/rohitg00/ai-engineering-from-scratch/releases/latest/download/aiefs-vol1-foundations.pdf) |
| 2 | 深度学习：神经网络、视觉与语音 | 03、04、06 | [EPUB](https://github.com/rohitg00/ai-engineering-from-scratch/releases/latest/download/aiefs-vol2-deep-learning.epub) · [PDF](https://github.com/rohitg00/ai-engineering-from-scratch/releases/latest/download/aiefs-vol2-deep-learning.pdf) |
| 3 | 语言：自然语言处理基础与 Transformer | 05、07 | [EPUB](https://github.com/rohitg00/ai-engineering-from-scratch/releases/latest/download/aiefs-vol3-language.epub) · [PDF](https://github.com/rohitg00/ai-engineering-from-scratch/releases/latest/download/aiefs-vol3-language.pdf) |
| 4 | 大语言模型：生成、强化学习、预训练与工程实践 | 08–11 | [EPUB](https://github.com/rohitg00/ai-engineering-from-scratch/releases/latest/download/aiefs-vol4-llms.epub) · [PDF](https://github.com/rohitg00/ai-engineering-from-scratch/releases/latest/download/aiefs-vol4-llms.pdf) |
| 5 | 智能体：多模态、协议、自主系统与群体协作 | 12–16 | [EPUB](https://github.com/rohitg00/ai-engineering-from-scratch/releases/latest/download/aiefs-vol5-agents.epub) · [PDF](https://github.com/rohitg00/ai-engineering-from-scratch/releases/latest/download/aiefs-vol5-agents.pdf) |
| 6 | 生产实践：基础设施、安全与综合项目 | 17–19 | [EPUB](https://github.com/rohitg00/ai-engineering-from-scratch/releases/latest/download/aiefs-vol6-production.epub) · [PDF](https://github.com/rohitg00/ai-engineering-from-scratch/releases/latest/download/aiefs-vol6-production.pdf) |
电子书是一份阶段性快照，仓库则持续更新。每章末尾都有链接，可以回到对应课程的动画图示、测验和可运行代码。要在本地构建，请安装 pandoc 后运行 `python3 scripts/build_book.py`；构建流程见 [book/README.md](../../book/README.md)。
准备 Claude 认证
[Claude 认证学院](../../certifications/claude/README.md)是一套免费、开源的备考课程，覆盖四条官方认证路线：Associate Foundations、Developer Foundations、Architect Foundations 和 Architect Professional。每条路线都结合考试蓝图对应的课程、可运行实验、诊断测验、综合项目，以及一套原创的完整模拟试卷。
可在 Claude Code、Codex、ChatGPT、Cursor 或其他智能体中使用 [GitHub 入门指南](../../certifications/claude/GETTING_STARTED.md)。在 Codex 中输入 `claude-certification`，在 Claude Code 中使用 `/claude-certification`，其他宿主则可直接要求使用 `claude-certification` 技能。它会帮你选路线，在 `CLAUDE-CERTIFICATION.md` 中保存持续更新的学习计划，逐步讲解课程、运行真实实验，并根据成果文件给出反馈。你也可以在[认证课程网站](https://aiengineeringfromscratch.com/certifications.html)学习同一套内容。
这是一套依据公开考试目标编写的独立学习资料，与 Anthropic 没有关联；它不复现真实考试题目，也不能保证通过考试。
准备 MCP Associate（MCPA）认证
[MCPA 认证课程](../../certifications/mcpa/README.md)是针对 Agentic AI Foundation 的 Model Context Protocol Associate 考试编写的免费开源备考资料，该考试通过 Linux Foundation Training 提供。34 节课覆盖五个考试领域，并围绕 2026-07-28 版无状态协议展开：以每次请求的 `_meta` 和 `server/discover` 替代旧握手、多轮请求、订阅、缓存、tasks 与 MCP Apps 扩展、OAuth 授权，以及注册表和 SDK 分层。每节课都附有可运行的标准库实验，检查运行记录是否符合当前协议格式；整条路线还包含诊断测验、综合项目和三套按公开蓝图权重编排的原创完整模拟试卷。
可在 Claude Code、Codex、ChatGPT、Cursor 或其他智能体中使用 [GitHub 入门指南](../../certifications/mcpa/GETTING_STARTED.md)。在 Codex 中输入 `mcpa-certification`，在 Claude Code 中使用 `/mcpa-certification`，其他宿主则可直接要求使用 `mcpa-certification` 技能。它会在 `MCPA-CERTIFICATION.md` 中保存学习路线，逐步讲解、运行实验，并根据成果给出反馈。[MCPA 网站路线](https://aiengineeringfromscratch.com/certification?id=mcpa-f)也提供相同课程。
这是一套依据公开考试目标编写的独立资料，与 Agentic AI Foundation 或 Linux Foundation 没有关联；它不复现真实考试题目，也不能保证通过考试。
## 工具箱
每节课都产出可复用成果。你可以将其安装到代理中，或从仓库根目录运行下方脚本。
课程结构与可复用成果
## 单节课的结构
每节课都有独立目录，整套课程遵循同一结构：
```text
phases/-/-/
├── code/ 可运行的实现（Python、TypeScript、Rust、Julia）
├── docs/
│ └── en.md 课程讲解文档
└── outputs/ 本课产出的提示词、技能、智能体或 MCP 服务器
```
每节课都经过六个环节，其中最关键的是“亲手构建 / 使用现成工具”的对照：先从零实现算法，再用生产级库完成同一操作。因为你写过较小的版本，框架内部做了什么就不再是黑箱。
```mermaid
%%{init: {'theme':'base','themeVariables':{'primaryColor':'#fafaf5','primaryTextColor':'#1a1a1a','primaryBorderColor':'#3553ff','lineColor':'#3553ff','fontFamily':'JetBrains Mono','fontSize':'13px'}}}%%
flowchart LR
M["一句话核心思想"] --> Pr["问题：具体痛点"]
Pr --> C["概念：图解与直觉"]
C --> B["亲手构建：从数学出发"]
B --> U["使用现成工具：PyTorch / sklearn"]
U --> S["交付成果：提示词 · 技能 · 智能体 · MCP"]
```
## 每节课都有实际产出
许多课程以“恭喜，你学会了某个知识点”收尾；这里的每节课都要求你留下一个**可复用的工具**，可以安装或放进日常工作流。
FIG_001 · A
提示词 |
FIG_001 · B
技能 |
FIG_001 · C
智能体 |
FIG_001 · D
MCP 服务器 |
| 复制到任意 AI 助手中，针对具体任务获得专家级帮助。 |
安装到 Claude、Cursor、Codex、OpenClaw、Hermes 或任何能读取 SKILL.md 的智能体中。 |
部署为自主工作的智能体；你会在阶段 14 亲手编写它的核心循环。 |
接入任何兼容 MCP 的客户端；阶段 13 会带你从头构建。 |
安装课程成果
**课程成果文件**位于 `phases/**/outputs/`，包含 396 个技能和 99 个提示词。克隆仓库后，可以用 `scripts/install_skills.py` 安装；脚本支持按阶段或标签筛选、预演，以及针对不同宿主的目录布局：
```bash
python3 scripts/install_skills.py # every skill, default --layout skills (nested)
python3 scripts/install_skills.py --layout skills # same as above, explicit
python3 scripts/install_skills.py --type all # skills + prompts + agents
python3 scripts/install_skills.py --phase 14 # one phase only
python3 scripts/install_skills.py --tag rag # filter by tag
python3 scripts/install_skills.py --layout flat # flat files
python3 scripts/install_skills.py --dry-run # preview without writing
python3 scripts/install_skills.py --force # overwrite existing files
```
`` 是目标宿主读取技能的目录，例如 `~/.claude/skills/`、`~/.cursor/skills/`、`~/.config/openclaw/skills/` 或 `.skills/`。
默认情况下，若目标位置已有同名文件，脚本会列出所有冲突路径并以退出码 1 结束，不会覆盖。用 `--dry-run` 预览，用 `--force` 才会覆盖。正式安装时会在目标目录写入 `manifest.json`，按类型和阶段记录完整清单。请选择宿主支持的布局：
| `--layout` | 写入路径 |
|---|---|
| `skills` | `//SKILL.md`；Claude、Cursor、Codex、OpenClaw、Hermes 支持的嵌套布局 |
| `by-phase` | `/phase-NN/.md`；按阶段分组 |
| `flat` | `/.md`；平铺文件 |
将智能体工作台接入自己的仓库
阶段 14 的综合项目提供一套可复用的 Agent Workbench：`AGENTS.md`、Schema、初始化脚本、验证脚本和交接脚本。可将它复制到任意仓库：
```bash
python3 scripts/scaffold_workbench.py path/to/your-repo # full pack + seeds
python3 scripts/scaffold_workbench.py path/to/your-repo --minimal # skip docs/
python3 scripts/scaffold_workbench.py path/to/your-repo --dry-run # preview only
python3 scripts/scaffold_workbench.py path/to/your-repo --force # overwrite
```
你会得到七个相互配合的工作台部分、初始 `task_board.json`，以及符合 `schema_version: 1` 的 `agent_state.json`。之后编辑任务和 `AGENTS.md`，运行 `scripts/init_agent.py`，再把明确的工作契约交给智能体。原始模板位于 `phases/14-agent-engineering/42-agent-workbench-capstone/outputs/agent-workbench-pack/`。
以 JSON 浏览完整课程
`scripts/build_catalog.py` 扫描磁盘上的每个阶段、课程和成果文件，在仓库根目录生成 `catalog.json`：一份文件即可描述整个课程。
```bash
python3 scripts/build_catalog.py # writes /catalog.json
python3 scripts/build_catalog.py --stdout # to stdout, do not touch repo
python3 scripts/build_catalog.py --out path/to/file.json
```
目录数据直接来自文件系统，不依赖 README，因此能反映磁盘上的实际课程。它可供站点构建和下游工具使用，也可帮助核对 README 中的数量。Schema 说明写在脚本开头。
课程工作流将 `catalog.json` 生成为临时文件，并由 Git 忽略。不要提交它。同一工作流将 `audit_lessons.py` 作为阻断式检查运行。
快速检查每节课的 Python 代码
`scripts/lesson_run.py` 会对各课程 `code/` 目录中的 `.py` 文件进行字节码编译。默认只检查语法，不执行代码，不需要 API 密钥或大型机器学习依赖。它能发现常见的缩进错误、损坏的 f-string 和误编辑。
```bash
python3 scripts/lesson_run.py # syntax-check the whole curriculum
python3 scripts/lesson_run.py --phase 14 # one phase only
python3 scripts/lesson_run.py --json # JSON report on stdout
python3 scripts/lesson_run.py --strict # exit 1 if any lesson fails
python3 scripts/lesson_run.py --execute # actually run, 10s timeout per lesson
```
使用 `--execute` 时，脚本会运行每节课的 `code/main.py`，若不存在则运行找到的第一个 `.py` 文件，并设置 10 秒超时。若入口文件开头声明 `# requires: pkg1, pkg2`，则缺少第三方依赖时会跳过并说明原因。执行模式需要主动选择，未接入 CI。
脚本仅使用 Python 3.10+ 标准库。设置 `LINK_CHECK_SKIP=domain1,domain2` 可覆盖默认跳过的站点列表；`twitter.com`、`x.com`、`linkedin.com`、`instagram.com` 和 `medium.com` 通常会拦截自动化的 HEAD/GET 请求。
基础论文与协议
- *Attention Is All You Need*（注意力机制）— Vaswani 等，2017 → [阶段 7](#phase-7)
- *Language Models are Few-Shot Learners*（GPT-3）→ [阶段 10](#phase-10)
- *Denoising Diffusion Probabilistic Models*（扩散模型）→ [阶段 8](#phase-8)
- *InstructGPT / RLHF* → [阶段 10](#phase-10)
- *Direct Preference Optimization*（直接偏好优化）→ [阶段 10](#phase-10)
- *Chain-of-Thought Prompting*（思维链提示）→ [阶段 11](#phase-11)
- *ReAct: Reasoning + Acting in LLMs*（推理与行动）→ [阶段 14](#phase-14)
- *Model Context Protocol*（MCP）— Anthropic → [阶段 13](#phase-13)
## 参与贡献
| 目标 | 请阅读 |
|---|---|
| 贡献课程或修复问题 | [CONTRIBUTING.md](../../CONTRIBUTING.md) |
| 为团队或学校创建分支 | [FORKING.md](../../FORKING.md) |
| 使用课程模板 | [LESSON_TEMPLATE.md](../../LESSON_TEMPLATE.md) |
| 跟踪项目进度 | [ROADMAP.md](../../ROADMAP.md) |
| 查询术语 | [glossary/terms.md](../../glossary/terms.md) |
| 查看行为准则 | [CODE_OF_CONDUCT.md](../../CODE_OF_CONDUCT.md) |
提交课程前，请运行不变量检查：
```bash
python3 scripts/audit_lessons.py # full curriculum
python3 scripts/audit_lessons.py --phase 14 # single phase
python3 scripts/audit_lessons.py --json # CI-friendly output
```
任何规则失败都会让命令返回非零退出码。规则 L001–L010 检查目录结构、`docs/en.md` 是否存在且包含一级标题、`code/` 是否非空、`quiz.json` 是否符合当前 Schema（拒绝曾引发 #102 问题的旧 `q/choices/answer` 字段），以及课程文档中的相对链接。
## 赞助本项目
114,584 位读者 · 近 30 天 181,995 次页面浏览 · 数据截至 2026-08-29
课程免费，采用 MIT 许可证，共有 523 节课。感谢所有让它持续开放的赞助方和支持者。[查看赞助方与支持者](../../BACKERS.md)。
想支持项目？可了解[赞助方式](../../SPONSORS.md)，包括[硬件赞助](../../SPONSORS.md#hardware-lab-partner)，或[通过 GitHub 赞助](https://github.com/sponsors/rohitg00)。
如果这份手册帮助了你，欢迎为仓库加星，支持项目持续更新。
## 许可证
本项目采用 MIT 许可证。你可以复刻、教学、出售或发布；欢迎署名，但许可证不强制要求。
由 [Rohit Ghumare](https://github.com/rohitg00) 与社区共同维护。
@ghumare64 · aiengineeringfromscratch.com · 反馈与建议
