量化问题链：从数值表示到跨工作负载决策
量化选型从对象和工作负载约束开始，而不是从算法名称开始。训练可能受模型状态容量、数值稳定性和吞吐限制；推理可能受权重驻留、激活带宽、KV Cache 容量或低精度执行路径限制。不同问题对应不同的量化对象、介入时机和验证方法。
整条阅读路径使用同一条因果链：
对象与表示 → 校准统计 → 缩放因子 / 量化粒度 → 量化误差 → 量化产物 → 加载器 / 计算内核 / 执行后端 → 工作负载证据 → 条件化决策
正文页负责解释单个节点，下面的段落负责说明这些节点如何连接。
如何使用这组图
专题入口的路线图负责给出 Task0–6 顺序，知识地图负责按量化对象查找机制、执行资产和证据。本页不重复两张总览图，而是用局部图继续回答“误差怎样传播、训练与推理怎样分流、执行证据怎样升级、候选怎样进入最终决策”。
第一段：先定位约束和压缩对象
先判断问题来自权重、激活、训练状态还是 KV Cache。权重量化主要改变模型常驻容量和权重读取带宽；激活量化影响中间状态、算子执行和数值稳定性；训练状态量化影响参数更新的容量与稳定性；KV Cache 量化影响长上下文请求的缓存容量、读写带宽和并发上限。
如果对象没有确定，直接比较 INT4、INT8 或 FP8 没有意义。还要明确目标是降低显存、降低带宽、提高并发，还是匹配某种硬件计算内核。
对应 01 量化对象、表示与误差。该页建立缩放因子、零点、量化粒度和误差来源的共同口径。
第二段：理解误差如何进入系统
量化把连续的浮点值映射到有限的离散等级。缩放因子、零点、分组粒度、异常值处理和校准数据共同决定映射误差。误差可能停留在权重层，也可能通过矩阵乘、激活或 KV Cache 读写累积到输出质量。
因此，位宽只能说明表示范围和存储下界，不能单独说明任务质量或运行速度。需要把量化误差与目标评测集、输入分布和服务工作负载对齐。
这一部分连接 01 量化对象、表示与误差 与 02 PTQ 与 QAT 的介入时机。
第三段：决定量化介入时机
PTQ 适合已有模型的快速校准和部署试探；当 PTQ 的质量损失超过边界，且仍有训练预算时，才考虑 QAT 或量化微调。QLoRA 属于训练显存受限下的低比特适配路径，重点是减少可训练状态和维持任务质量，并不等于完成了推理侧权重量化。
选择时需要同时计算校准成本、训练成本、验证成本和部署收益。不能因为 QAT 理论上能恢复质量，就跳过 PTQ 基线；也不能因为 QLoRA 使用低比特基座，就把它的结果直接当作 GPTQ、AWQ 或 GGUF 的推理结果。
对应 02 PTQ 与 QAT 的介入时机、QUANT-QAT 量化感知训练和03 低比特训练适配。
第四段：区分方法、格式和执行路径
进入权重量化时，需要把三个层次分开：GPTQ / AWQ 是误差控制方法，INT4 / INT8 / NF4 / FP8 是数值表示，GGUF 是文件格式与部署封装；Transformers、bitsandbytes、vLLM、llama.cpp 和 TensorRT-LLM 则决定如何加载和执行。
同一种表示在不同执行后端上可能走不同的反量化和矩阵乘路径。模型文件变小，只能说明存储表示发生变化；是否减少运行时显存、是否使用低比特计算内核、是否提升吞吐，必须由目标执行后端验证。
对应 04 权重量化与后训练压缩、53 激活量化与 SmoothQuant、QUANT-MIXED-BIT 混合位宽分配、05 运行期量化路径与54 K/V 量化策略。
第五段：将候选放回目标工作负载
训练与推理不能共用一份结论。训练比较固定数据与更新条件，观察稳定性、质量和训练资源；推理比较固定模型、输入与执行后端，只替换量化候选。CPU 机制、GPU 局部执行、量化产物生成和执行后端基准测试使用不同证据等级，不能互相替代。
对应 06 产物、执行与工作负载决策。
第六段：形成有条件的决策
最终判断不是“哪种量化最先进”，而是候选能否在指定模型、硬件、执行后端和工作负载下同时满足质量与资源门槛。训练分支交付训练质量与资源证据，推理分支交付量化产物、执行路径与服务证据；06 产物、执行与工作负载决策统一给出 accept / tune / reject 及适用范围。
压缩扩展：剪枝、蒸馏与结构稀疏
当前成熟路线仍以量化为主。剪枝需要额外维护掩码、稀疏度调度和恢复训练状态，蒸馏需要教师 / 学生版本、蒸馏损失和独立评测，结构稀疏还要求目标硬件与计算内核支持同一种模式。这些状态不能压缩成量化产物的附属字段。
需要比较这些路径时进入07 剪枝、蒸馏与结构稀疏。该页负责建立压缩对象与证据分工；具体训练实现、稀疏计算内核和真实项目仍是后续建设项。