第二讲:状态估计、观测编码与潜在动力学
Dreamer 的核心问题不只是“如何压缩感知”和“如何预测未来”。在这之前还要问:单帧观察没有展示完整状态时,模型究竟应该记住什么?在这之后还要问:训练时准确的模型,能否在自己的预测上稳定展开?
读完本讲,你应该能够区分观察、隐藏状态和信念状态,解释 VAE 与 RSSM 的职责边界,并用自由 rollout 而不是单步损失判断模型是否适合规划。
- 观察、状态与信念:部分可观测性、历史记忆、预测与校正,以及它们与 RSSM 先验/后验的关系
- 观测编码:VAE 的编码-解码结构、ELBO、CNN 编码器,以及重建目标能保证什么、不能保证什么
- 潜在动力学:从 GRU 和 MDN-RNN 到 RSSM 的确定性/随机性双路径设计
- 训练分布与自由 rollout:teacher forcing、先验想象、长时程漂移、模型不确定性与规划风险
- Dreamer 系列演进:把前面的组件放回完整系统,理解各代模型解决了哪个瓶颈
先读“观察、状态与信念”和“观测编码”,完成 P01。随后阅读“潜在动力学”和“训练分布与自由 rollout”,再完成 P02。这样,项目中的每个指标都能对应一个清楚的建模问题。