07. 1 Double Buffering Deep Dive | 双缓冲数学原理与效果分析
本页是 17. PyTorch CUDA Streams and Transfer 的补充专题，专门解释双缓冲为什么有效、什么时候有效，以及为什么有时会负优化。
章节定位
- 主线：
05. CUDA Streams and Transfer - 专题：
07.1 Double Buffering Deep Dive - 目标：把双缓冲的收益边界讲清楚
核心问题
为什么增大数据规模反而降低双缓冲效果？
双缓冲能隐藏的是传输时间，但当计算复杂度增长更快时，传输占比会快速下降，流调度开销可能抵消收益。
在什么场景下最有效？
- 数据加载和预处理
- KV Cache Offloading / Prefetching
- 传输和计算量接近的场景
缓冲区数量怎么选？
- 单缓冲：无法重叠
- 双缓冲：工业上最常见
- 三缓冲及以上：收益有限，复杂度上升
工程结论
- 双缓冲不是万能优化
- 它更像是系统级流水线里的一个环节
- 当传输占比足够高时，收益才明显