Skip to content

02 时间拆分与 Trace 阅读

页面目标

这一页负责把“为什么慢”先拆成可观察的时间问题:operator、kernel、launch、等待和阶段切换。

本页的输出是时间瓶颈假设:问题主要属于计算、调度、启动开销还是等待。只有当时间线显示出内存驻留或分配行为时,才进入下一页。

问题起点

“慢”不是一个统一现象。常见情况包括:

  • 单个 operator 真慢
  • kernel 数量太碎
  • Python / runtime 开销高
  • 某些阶段有明显等待

如果不先做时间拆分,后面的优化动作常常会打偏。

关键观察点

  • operator breakdown
  • kernel timeline
  • launch overhead
  • step 内阶段切换
  • CPU / GPU overlap

可视化入口

Time Breakdown and Trace Reading

对应 Part

  • 17 PyTorch Profiling Basics
  • 20 Profiling and Memory Ledger
  • 74 Profiling Driven End-to-End Optimization

本节要点

时间拆分是 profiling 的第一入口,因为大多数问题都先表现为“某一段时间不合理”。

进入下一页

若时间热点伴随显存抬升或分配震荡,进入 03 Memory Timeline 与 Residency;否则保留时间假设,直接准备 benchmark 对照。

Released under the MIT License.