07 端到端性能工程实战
本节定位
把前面得到的指标、账本、trace、通信证据和成本模型组合成一个可交付的性能工程项目。重点不是再介绍一种局部优化,而是检查多个策略组合后是否仍然改善端到端结果。
内容安排
- 问题定义:明确 SLO、质量门槛、资源预算和 workload。
- Baseline 建立:记录环境、模型、输入、warmup、重复次数和原始结果。
- 候选策略:从 profiling 证据出发选择显存、算子、通信、调度或部署方案。
- 组合验证:比较单项优化、组合优化和回退方案,检查指标之间的相互影响。
- 回归与复查:确认收益是否稳定,识别模型、硬件、版本和请求分布变化带来的风险。
- 项目收口:输出
accept / tune / reject,并明确结论适用范围和下一步工作。
主要产出
一份端到端性能工程报告,至少包含环境、workload、baseline、候选方案、指标变化、质量结果、成本估算、证据等级和限制条件。
