Part 0 — Before you learn

编码伦理与开源精神

部署你的第一个 SGLang 服务

Part I — Foundations

第 1 章 LLM 入门

第 2 章推理入门

第 3 章 GPU 入门

第 4 章 KV Cache

第 5 章 Benchmark 入门

第 1 章 mini-sglang 概览

第 2 章一个请求的旅程（概念）

第 2 章一个请求的旅程（代码走读）

第 3 章前向与生成

第 4 章 KV Cache 优化

第 5 章 HTTP 服务与并发（概念）

第 5 章 HTTP 服务与并发（代码走读）

第 6 章 Continuous Batching 与调度

第 7 章 Paged KV Cache 与显存管理

第 8 章 RadixAttention 与前缀缓存（概念）

第 8 章 RadixAttention 与前缀缓存（代码走读）

第 9 章多进程与张量并行

第 10 章投机解码

第 1 章 Attention Backends 与 CUDA Graph

第 2 章量化与低精度推理

第 3 章分层缓存

第 4 章横向扩展

第 5 章 Prefill-Decode 分离

第 1 章用 Cookbook 部署 SGLang

第 2 章 Profiling 与 Trace 分析

第 3 章 SGLang PR 工作流

专区说明

PR 要求

本页目录

本章内容撰写中，敬请期待。

Pager