Skip to content

监督微调(SFT)闭环正文

这页只做训练微调问题的判断框架:不重复 intro 的路线入口,也不写 walkthrough 的连续故事。

判断表

先分清问题在数据、loss、LoRA 配置、训练控制还是项目交付,再判断是不是已经需要转去显存、量化或对齐分支。

现象优先判断先看哪条线常见动作
loss 能跑,但生成质量没变好data / loss mismatch01检查 input_ids / attention_mask / labels、response-only loss、EOS 对齐
LoRA 训练正常,但收益很弱adapter config02检查 target modules、r / alpha / dropout、可训练参数占比
loss 波动怪,step 口径不一致training control mismatch03检查 scheduler、accumulation、optimizer step、effective batch
训练跑通了,但实验结论站不住evaluation gap04补 train / val、样例评估、速度与显存记录
adapter 产出了,但项目不可交付delivery gap05检查 adapter、tokenizer、config、artifact、采用结论
基础闭环跑通后需要扩展branching06再进入 26 / 31 / 15 / 16 等分支
检查项主要回答什么常见误判
input_ids / attention_mask / labels数据是否真的形成了正确 supervision只要能 tokenize 就算数据正确
LoRA target modulesadapter 是否挂在真正有意义的层上直接沿用默认层,不看结构差异
scheduler / accumulation训练控制口径是否统一按 micro-batch 计 step,把 loss 曲线看花
eval sample / val loss训练结果是否真的变好只看 train loss,不看生成样例
artifact / report实验是否可复现、可交付训练结束就算项目完成

60 的价值不在于再讲机制,而在于把这些判断收成真正的项目结论。

本节要点

这页的职责不是再讲一遍 SFT 流程,而是把训练微调里最常见的判断点压成一张表。路线入口留给 intro,连续故事留给 walkthrough,项目收口留给 60

Released under the MIT License.