Skip to content

Group 3.2: Softmax and Design Patterns | 3.2: Softmax 与设计模式

本组承上启下,先用 Softmax 进入跨线程归约与数值稳定,再用 Design Patterns 收束 Triton 的常用骨架。

Group Overview | 组概览

这一组把 Softmax 和常见设计模式串起来,是从基础 kernel 走向更稳定、更可复用 Triton 结构的过渡层。阅读顺序和组内资产见下表,先看 06,再进入 06.5。

Group Asset Overview | 组内资产总览

职责作用定位
06处理 Softmax 的归约与稳定性主线页
06.5收束 Triton 常用设计模式扩展页

Learning Path | 学习路径

  • 先看 06 -> 06.5,把 Softmax 和设计模式串起来。

Next Steps | 后续衔接

  • 看完本组后,继续进入 3.3,把基础 kernel 接到 Attention 优化主线。

Environment Notes | 环境说明

  • 默认按 CPU-first 阅读,优先把归约和数值稳定看懂。
  • 这里只写组级统一前提,不点到具体节号。
  • 少数页面如需 GPU optional,以后续单页说明为准。

Released under the MIT License.