Skip to content

Group 4.2: System-Level Performance Optimization | 4.2: 系统级性能优化

本组聚焦 GPU 运行时调度、异步执行和编译时优化,帮助读者建立系统层的性能优化视角。

Group Overview | 组概览

本组从运行时调度和数据搬运出发,逐步进入异步预取、双缓冲、CUDA Graph、JIT 编译和显存管理,形成系统级性能优化闭环。

Group Asset Overview | 组内资产总览

职责作用定位
05. CUDA Streams and Transfer理解 CUDA Streams 和数据传输主线页
06. CUDA Graph and JIT看懂 CUDA Graph 与 JIT 优化主线页
07. 异步数据预取与 Double Buffering利用异步预取和双缓冲主线页
07.1 Double Buffering Deep Dive深挖双缓冲实现细节扩展页
08. 内存池与显存管理管理内存池和显存占用主线页

Learning Path | 学习路径

Next Steps | 后续衔接

  • 这组学完后,继续看 4.3,把通信原语、ZeRO / Offload 和多机多卡工程链路串起来。

Environment Notes | 环境说明

  • 默认需要 GPU 环境,且更适合在 Linux + CUDA 机器上阅读和验证。
  • 本组只写组级统一前提,不展开到具体节号。

Released under the MIT License.