Skip to content

性能优化实验 Quickstart ​

以下命令在仓库根目录执行,用于创建、恢复和检查实验环境。实验输入与结果见实验资产表,环境隔离要求见环境资产索引。

1. 选择环境 ​

本专题的单卡测量与机制实验统一使用 llm_perf_cu128。Part 05 · 03的测量、配置核对与结果登记也可在这个环境完成。训练模型、推理服务和多卡实验仍按对应页面选择环境;只做CPU结果审查时,才按需选择独立的 PERF-DELIVERY 控制环境。

实验环境入口运行条件
机制页 CPU 练习BASE-CPU 安装与启动按各页运行环境说明选择依赖
PERF-TRACE、PERF-MEMORY-TIMELINE、PERF-ROOFLINE、PERF-REGRESSION;PERF-INPUT、PERF-IO、PERF-CANDIDATE、PERF-COMPOSITIONPERF-CUDA-MECHANISM,环境名 llm_perf_cu128单张 GPU 至少 8 GiB 显存,Profile 预检通过
Part 05 性能优化交付PERF-CUDA-MECHANISM,环境名 llm_perf_cu128本项目所有阶段共用;close 不调用 GPU
训练、推理服务、量化或多卡候选复测候选实验原有的环境保持目标后端、硬件和测量条件一致
可选:仅CPU结果审查PERF-DELIVERY,环境名 llm_perf_delivery读取已有结果,不执行GPU测量

2. 首次创建 ​

首次运行单卡机制实验,进入性能机制GPU环境的一键创建,创建 PERF-CUDA-MECHANISM;已有同一环境时直接进入下一节。下方只提供可选CPU控制环境的安装入口,Part 05 · 03使用主环境时无需另建。安装器添加 --dry-run 可查看计划,不会创建环境或执行预检。

PERF-DELIVERY:交付控制环境 ​

PERF-DELIVERY 使用独立Conda环境,供只读取已有配对测量、剖析和回退记录的CPU审查使用。Part 05 · 03独立产生其测量输入,不要求Part 02先通过。

bash
python tools/install_environment_profile.py \
  --profile PERF-DELIVERY \
  --env-name llm_perf_delivery

3. 中断续装与重新进入 ​

单卡主环境安装中断时,按性能分析续装说明恢复;已经安装完成时,只需激活并启动Jupyter,选择 Python (llm_perf_cu128)。其他训练或服务环境按其所属Quickstart恢复。

bash
conda activate llm_perf_cu128
python tools/register_notebook_runtime.py --check
python tools/environment_preflight.py --profile PERF-CUDA-MECHANISM
python -m jupyter lab

可选CPU控制环境已经创建且确认属于 PERF-DELIVERY 时,可使用下面的续装命令;--reuse 会修改该环境,不能用于身份不明或已混装的环境。安装完成后激活 llm_perf_delivery 并选择同名内核。激活时出现 PYTHONPATH 覆盖提示属于隔离设置,是否可用以预检结果为准。

bash
python tools/install_environment_profile.py --profile PERF-DELIVERY --env-name llm_perf_delivery --reuse

4. 手动创建(可选) ​

安装器不可用时创建交付控制环境

手动路径使用 Profile 中同一份依赖文件;完成依赖检查、Profile 预检和内核登记后再启动 Notebook。单卡机制环境的手动步骤见性能机制GPU环境。

bash
conda create -n llm_perf_delivery python=3.12 -y
conda activate llm_perf_delivery
conda env config vars set PYTHONNOUSERSITE=1 PYTHONPATH=
conda deactivate
conda activate llm_perf_delivery
python -m pip install --upgrade pip
python -m pip install -r requirements/performance-delivery.txt --timeout 120 --retries 8
python tools/register_notebook_runtime.py
python -m pip check
python tools/environment_preflight.py --profile PERF-DELIVERY
python -m ipykernel install --user \
  --name llm_perf_delivery --display-name "Python (llm_perf_delivery)"

5. 验证与常见问题 ​

下面检查单卡主环境;Notebook的 sys.executable 应指向 llm_perf_cu128。CPU控制环境则将环境名与Profile分别换为 llm_perf_delivery、PERF-DELIVERY。通过预检后,按具体页面执行准备阶段;项目中的 prepare 与机制页中的 dry_run 以各页说明为准。

bash
conda activate llm_perf_cu128
python -m pip check
python tools/register_notebook_runtime.py --check
python tools/environment_preflight.py --profile PERF-CUDA-MECHANISM
python -c "import sys; print(sys.executable)"
现象处理方式
控制环境找不到本项目结果核对本次 RUN_LABEL 的测量清单和路径;缺少测量时回到 PERF-CUDA-MECHANISM 运行 measure
依赖冲突或Profile检测到禁止安装的后端保留原环境排查;按所需实验的Profile用新环境名创建,不把主环境改装成控制或服务环境
Notebook 找不到 tools 或解释器错误在目标环境注册仓库运行时,选择对应内核并重启
只有 CPU 决策结果可检查比较条件、冲突与回退规则;GPU 或服务收益必须来自实际测量
候选的原环境不可用保存失败原因及缺失测量,暂停采用判断;恢复原环境后补测

Released under the MIT License.