Group 3.3: Attention Optimization | 3.3: Attention 优化

本组聚焦 Attention 主线，把 RoPE、FlashAttention 和 PagedAttention 串成一条完整优化链路。

Group Overview | 组概览

这一组把 Attention 路径上的核心优化串起来，是 Triton 在 KV Cache 和长上下文优化上的主干。阅读顺序和组内资产见下表，先看 07，再进入 08-09。

Group Asset Overview | 组内资产总览

页	职责作用	定位
07	迁移 RoPE 到 Triton 实现	主线页
08	降低 Attention 的显存压力	主线页
09	处理 PagedAttention 的 KV cache	主线页

Learning Path | 学习路径

Recommended Order | 推荐顺序

• 先看 07 -> 08 -> 09，把 Attention 优化链路串起来。

Next Steps | 后续衔接

• 看完本组后，继续进入 3.4，把推理侧的压缩和多 LoRA 优化接上。

Environment Notes | 环境说明

• 默认按 CPU-first 阅读，优先把 Attention 路径和 KV cache 行为看懂。
• 这里只写组级统一前提，不点到具体节号。
• 少数页面如需 GPU required，以后续单页说明为准。