Skip to content

第零部分:前置知识与环境准备

本部分概览

第零部分用于补齐进入后续学习所需的基础能力。内容覆盖 Python、NumPy、PyTorch、训练循环和调试工具,目标是让读者顺利进入第一部分和第二部分。

当前已补齐 00/01/04/05/07/08/09/12/13 的练习资产,02/03/06/10/11 的理论文档也已就绪。

学习组划分

本章分为 4 个学习组。

学习组题目范围主题难度
0A: Python 基础00-01Python 语法与 NumPyEasy
0B: PyTorch 基础02-05Tensor、Autograd、模块定义Easy-Medium
0C: 深度学习基础06-09训练循环、激活函数、归一化Medium
0D: 工具与调试10-13Profiling、显存优化、调试技巧Medium

组级入口

组页学习组作用
0A0A: Python 基础先把 Python / NumPy 基础打牢
0B0B: PyTorch 基础过渡到 Tensor、Autograd 和 Module
0C0C: 深度学习基础衔接训练循环、激活函数和归一化
0D0D: 工具与调试面向 profiling、显存和调试

学习顺序

建议按以下顺序学习:

  1. 0A:Python 基础
  2. 0B:PyTorch 基础
  3. 0C:深度学习基础
  4. 0D:工具与调试

如果你已经有 Python 或 PyTorch 基础,可以直接从 0B 开始。

题目与内容

0A: Python 基础(00-01)

题号题目难度核心知识点
00Python Essentials for LLMEasy列表推导、字典、函数、装饰器、类
01NumPy and EinsumEasy数组操作、广播、einsum 符号

0B: PyTorch 基础(02-05)

题号题目难度核心知识点
02PyTorch Tensor FundamentalsEasyTensor 创建、操作、设备转移、数据类型
03PyTorch Autograd and BackwardMedium自动求导、梯度计算、反向传播
04PyTorch nn.Module BasicsMedium模块定义、前向传播、参数管理
05PyTorch Optimizers and LossMedium损失函数、优化器、学习率

0C: 深度学习基础(06-09)

题号题目难度核心知识点
06Simple Neural Network TrainingMedium训练循环、验证、保存模型
07Activation FunctionsEasyReLU、GELU、SiLU 的实现与对比
08Normalization TechniquesMediumBatchNorm、LayerNorm 的原理与实现
09Attention Mechanism IntroMediumScaled Dot-Product Attention 基础

0D: 工具与调试(10-13)

题号题目难度核心知识点
10PyTorch Profiling BasicsMediumPyTorch profiler、时间线分析
11Memory Profiling and OptimizationMedium显存占用、内存峰值、基础优化
12Debugging TechniquesMedium断点、日志、异常排查
13Jupyter and Git BasicsMediumNotebook 执行顺序、测试与复盘

Notebook 配合

第零部分的 notebook 以基础操作和验证为主,适合先看导学,再做练习,再跑测试。

  • 已有 notebook 的页面:00、01、04、05、07、08、09、12、13
  • 先只保留正文的页面:02、03、06、10、11

公开 notebook 需要可跑、可测、结构清楚;正文页先按内容维护,不强行挂入口。

Released under the MIT License.