Skip to content

Group 1D: Execution Models, Asynchrony and Operator Mapping | 1D: 执行模型、异步调度与算子映射 ​

本组回答程序怎样进入实际执行单元。

Group Goal | 学习目标 ​

先比较任务留在主机或迁移到设备的计算与搬运成本,再学习框架、CUDA 或 Triton 怎样组织执行。执行映射支线检查数据覆盖、片上资源和边界;异步调度支线检查输入就绪、队列顺序与跨队列依赖。CPU 计算器给出指定假设下的资源量和完成时间,实际重叠仍需用执行轨迹核对。

1D 执行模型、异步调度与算子映射路线

Learning Entries | 学习入口 ​

小节核心职责学习角色
07比较主机计算、设备计算和数据搬运的放置成本阶段放置入口
08比较框架、CUDA 与 Triton 提供的控制范围编程模型入口
15将张量任务映射到 Grid、Block、Warp 和 ThreadCUDA 映射入口
16检查块内协作、片上复用和同步条件CUDA 片上资源分支
18用 Program、tile 和 mask 覆盖输入空间Triton 映射分支
17区分提交顺序、执行顺序和可重叠区间异步执行入口
29用 Event、优先级和 Graph 组织复杂依赖高级调度分支

Execution and Scheduling Paths | 两条执行支线 ​

执行映射决定每项工作怎样落到硬件,异步调度决定这些工作何时具备执行条件。按问题选择支线,再用固定工作负载核对执行路径与端到端时间。

支线阅读顺序能计算或检查什么后续学习入口
执行映射08 → CUDA:15 → 16;Triton:18映射粒度、片上复用、资源门槛和边界处理算子优化
异步调度07 → 17 → 29阶段依赖、可重叠区间、事件与回放条件性能分析 → 性能优化
证据与后端两条支线 → 性能记录;图、形状和融合条件 → 1E 编译与后端时间线、资源指标、实现候选与后端约束算子优化、推理优化

Released under the MIT License.