2.1 基础算子

本组是 Chapter 2 的起点，目标是把 Transformer 的基础组件先跑通、看懂、能改。

导航： Chapter 2 导学 | 下一组 2.2 模型架构

包含内容

• 00 PyTorch Warmup
• 01 RMSNorm Tutorial
• 02 SwiGLU Activation
• 03 RoPE Tutorial
• 04 Attention MHA/GQA

学习顺序

建议按 00 -> 01 -> 02 -> 03 -> 04 顺序学习。