Skip to content

性能分析判断手册 | Profiling Casebook ​

使用本页时,先确认 workload 与 baseline 是否完整;再根据观察到的事实选择测量,而不是直接跳到某个优化策略。

症状到测量的快速映射 ​

观察到的现象先记录的指标优先证据可能转入的专题
step 或请求延迟上升阶段时间、P50 / P99、TTFT / TPOTtorch.profiler、Chrome Trace性能优化 Task4、推理优化
GPU 出现空洞CPU/GPU 时间线、同步与 H2Dprofiler / Nsight Systems性能优化 Task4
峰值显存抬高或 OOMallocated、reserved、峰值阶段memory timeline / snapshot性能优化 Task2 / Task3
多卡没有线性扩展每卡阶段时间、collective、通信暴露NCCL trace、Nsight Systems通信与并行
候选看起来更快均值、分位数、失败率、质量baseline / candidate 重复对照性能优化 Task5–6

证据强度与行动 ​

当前证据可得结论下一步
单次计时、单张截图有现象,不足以归因补 workload、warmup 与 baseline
trace 指向某阶段有待验证的瓶颈假设检查输入、状态、通信或 shape
同口径候选对照候选影响了目标指标检查质量、波动、尾延迟与失败
重复对照且守护指标通过可形成带条件的工程结论记录适用条件并进入组合复测

最小记录字段 ​

现象 → 指标 → workload → 环境 → baseline / candidate → 证据位置 → 质量与回归 → failure → action

训练项目可参照 73–76,推理与 serving 可参照 66 / 67 / 70,多卡项目可参照 79–81。

Released under the MIT License.