Skip to content

Group 1E: Compilation and Backends | 1E: 编译与后端 ​

同一段“矩阵乘 → 加偏置 → 激活”,为什么会有不同的启动次数和中间读写?输入长度变化后,原来的执行路径还能不能复用?本组沿着这条计算链,解释图变换、融合、动态形状和目标后端如何共同影响执行。

Group Goal | 学习目标 ​

从09识别计算图与执行路径,再按问题进入19 融合或30 形状变化;两者是不同分支。若尚未区分框架表达和内核实现,先回看08,不必先完成整个执行模型组。在30之后,可按需选读32 编译阶段与目标计划,用Python计划衔接形状、分块和目标能力。

1E 编译与后端路线

Learning Entries | 学习入口 ​

遇到的问题阅读入口要算清或查清什么
相同计算为什么会使用不同的内核调用与数据路径09 图优化与编译器图变换省去了哪些启动或中间读写,后端还需要什么条件
中间结果反复写出,融合之后是否更省19 算子融合内部边界能否消除,有无新增布局转换和资源压力
输入长度变化,缓存和填充开销随之改变30 动态形状形状种类、缓存复用、填充数量和路径切换分别怎样变化
想继续理解目标计划怎样形成32 编译阶段与目标计划(进阶)同一矩阵的形状、分块、能力与阶段内容是否一致

Reading Paths and Validation | 阅读顺序与后续验证 ​

程序怎样映射到Warp、Block与Program,可按需回看16 块内协作和18 Triton程序块。本组用逻辑字节数、给定能力和构造耗时解释候选;真实图捕获、设备产物和重复计时从下表进入,设备与运行时适配再接到1F。

路径阅读顺序能计算或检查什么后续学习入口
中间读写较多09 → 19找出区域外仍在使用的中间值,推导可减少的逻辑读写Part03·03 SwiGLU三路径对照
输入形状变化09 → 30分开形状统计、填充与运行分支,再观察真实版本复用Part03·21 图捕获与版本复用、推理优化
深入目标实现计划09 → 30 → 按需进入32形状绑定、分块预算、目标能力和阶段快照共同约束计划Part03·18 编译产物与实际执行
需要确认是否更快固定输入、检查实际执行路径、重复计时省去的读写与启动是否带来端到端收益性能优化·测量与诊断方法
需要换设备或运行时目标计划 → 1F 硬件适配与系统约束产物、形状、关键算子和版本是否兼容,失败时如何回退部署与异构系统

Released under the MIT License.