Skip to content

专题讨论轴

总览

topic_discussion 是横向专题讨论轴,用于承接跨 Part 的专题页面与案例串联。

为什么先做这五个主题

这五个主题不是随意挑出来的,而是优先覆盖了当前 Part 1 / Part 2 里最容易形成横切阅读闭环的内容。

  • Profiling 是方法论主轴,负责把“怎么测、怎么定位、怎么证明”统一起来。
  • 推理优化 最容易从 Part 2.6 / 2.7A / 2.9 抽出完整链路,适合先做成可串读专题。
  • 通信与并行 直接承接 Part 1C / Part 2.8,能把多卡通信、显存分摊和并行策略串成一条线。
  • 显存优化与性能调优 能横切训练、推理和 benchmark,是最适合沉淀资源压力与收益验证的专题之一。
  • 编译与图优化 边界更抽象,但它能把图、融合、lowering、执行模型接成一条后端视角链路,所以先保留入口、再逐步扩展。

当前内容

建设优先级

  1. Profiling:方法论主轴,优先保留并继续补案例。
  2. 推理优化:最容易从 Part 02 形成完整横切链路,优先建设。
  3. 通信与并行:和 2.8Part 1C、分布式基线强相关,优先建设。
  4. 显存优化与性能调优:和 2.52.6、训练/推理调优都能联动,随后建设。
  5. 编译与图优化:先收窄边界,等内容更稳定后再扩展。

后续主题规划

  • 训练专题:先暂缓,不单列。当前训练相关内容已经在 Part 2 主线里形成了完整闭环,横切价值还不如 Profiling推理优化通信与并行显存优化 这几条线稳定。
  • 对齐专题:先暂缓,不单列。现阶段体量还不够大,更适合继续留在 Part 2.4 和项目页里。
  • Triton / Kernel 开发专题:以后有必要可以单开,用来横切 Part 3 的 Triton 和算子开发内容。
  • 分布式训练专题:如果后续内容继续膨胀,可以从 通信与并行 里再细分出来,但当前优先放在同一专题下更稳。

说明

专题讨论轴不属于 Part 0-5 的纵向主线,而是用于补充跨 Part 的方法论、案例和系统化视角。

Released under the MIT License.