Group 4.2: System-Level Performance Optimization | 4.2: 系统级性能优化
本组聚焦 GPU 运行时调度、异步执行和编译时优化,帮助读者建立系统层的性能优化视角。
Group Overview | 组概览
本组从运行时调度和数据搬运出发,逐步进入异步预取、双缓冲、CUDA Graph、JIT 编译和显存管理,形成系统级性能优化闭环。
Group Asset Overview | 组内资产总览
| 页 | 职责作用 | 定位 |
|---|---|---|
| 05. CUDA Streams and Transfer | 理解 CUDA Streams 和数据传输 | 主线页 |
| 06. CUDA Graph and JIT | 看懂 CUDA Graph 与 JIT 优化 | 主线页 |
| 07. 异步数据预取与 Double Buffering | 利用异步预取和双缓冲 | 主线页 |
| 07.1 Double Buffering Deep Dive | 深挖双缓冲实现细节 | 扩展页 |
| 08. 内存池与显存管理 | 管理内存池和显存占用 | 主线页 |
Learning Path | 学习路径
Recommended Order | 推荐顺序
- 05. CUDA Streams and Transfer -> 06. CUDA Graph and JIT -> 07. 异步数据预取与 Double Buffering -> 07.1 Double Buffering Deep Dive -> 08. 内存池与显存管理
Next Steps | 后续衔接
- 这组学完后,继续看 4.3,把通信原语、ZeRO / Offload 和多机多卡工程链路串起来。
Environment Notes | 环境说明
- 默认需要 GPU 环境,且更适合在 Linux + CUDA 机器上阅读和验证。
- 本组只写组级统一前提,不展开到具体节号。
