选修与案例库
⚠️ Alpha内测版本警告
此为早期内部构建版本,尚不完整且可能存在错误,欢迎大家提Issue反馈问题或建议。
本章导读
必修章节之后的优先选修与扩展案例卡。案例卡统一按"场景 → 预测 → 验证 → 复盘"组织:学生页先给问题、约束与模拟入口,实测答案和原因放复盘页。
教学目标
- 能按案例卡格式完成 C05(KV 搬运 vs 重算)的分析;
- 能说明各案例卡的保留价值与纳入条件(需要什么资源或验证才能闭环);
- 能区分哪些案例属于高级 / 质量 / 算子 / 存储扩展,并知道算子级调优去哪里(hello-gpu)。
内容梗概
C05(优先选修):KV 搬运 vs 重算
已有解析计算器;补 AMD 实际传输与重算参数、路径分解和边界验证。有真实 KV 恢复接口后才评估完整服务收益。
案例卡清单
统一格式"场景 → 预测 → 验证 → 复盘":
- 02 Infinity Cache 悬崖(模型边界练习):比较平坦带宽与两级缓存模型,只在核实有对应缓存结构的硬件上验证;
- 04 双卡 MTP / CPU 派发(高级案例):保留 2×RTX 3080 历史证据;CPU dispatch、并行方式、MTP 联合建模不作为首期前置;
- 05 自适应投机解码(高级案例,待闭环):先补接受率、draft/verify 成本与动态负载模型;
- 06 MoE 路由裁剪(质量约束案例卡):讨论速度收益、质量底线及小样本结论,不要求全员修改路由;
- 09 MLA/CSA/HCA(架构扩展,待复核):审核层数、维度、单位、压缩比例与 1M 外推;
- 11 存储后端写入(存储系统扩展):区分提交/受理 ops/s、持久化吞吐与 KV 服务收益;
- 双机互联(双机通信扩展):先确认双机/网卡/权限;单机双卡由第 5 章承担,不能代称双机验证。
移出必修
07 MoE kernel 参数调优移出必修,关联 hello-gpu 作为实现参数优化的选读。
实验设计
模拟器实验
每个案例卡先给模拟入口与预测任务(案例有解析模型或模拟器支持的)。
真机实验(RX 9070 XT 16 GB 主线)
每个案例卡按自己的纳入条件实测;未满足纳入条件的只完成"场景 → 预测"部分,并注明缺口。
闭环与交付
- 交付:完整案例卡(场景、预测、验证、复盘)与资源缺口清单。
本章小结
- 本章目前是 Alpha 阶段的内容梗概、实验设计与教学目标骨架,正式正文会在对应实验跑通后补齐。
- 与本章相关的代码、实验配置与测量记录会放在
code/part3-electives/。
延伸阅读
- 待补充。