Group 2.1: Base Operators | 2.1: 基础算子
本组解决“先把基础算子跑通”的问题，目标是把 Transformer 的基础组件先看懂、能改、能接到后续模型里。
Group Overview | 组概览
这一组先把基础算子和 Transformer 组件讲通，是 Part 2 的起点，也是后续模型组装与训练页的共同前提。阅读顺序和组内资产见下表，先看 00，再依次进入 01-04。
Group Asset Overview | 组内资产总览
| 页 | 职责作用 | 定位 |
|---|---|---|
| 00 | 跑通 PyTorch 最小环境和张量基础 | 起步页 |
| 01 | 读懂 RMSNorm 的计算和实现 | 主线页 |
| 02 | 理解 SwiGLU 的激活和容量变化 | 主线页 |
| 03 | 看清 RoPE 的位置编码方式 | 主线页 |
| 04 | 识别 MHA / GQA 的注意力接口 | 主线页 |
Learning Path | 学习路径
Recommended Order | 推荐顺序
Next Steps | 后续衔接
- 看完本组后，继续进入 2.2，把单个算子组装成完整模型结构。
Environment Notes | 环境说明
- 默认按
CPU-first阅读，优先把算子逻辑看懂。 - 这里只写组级统一前提，不点到具体节号。
- 少数页面如需
GPU optional，以后续单页说明为准。