강좌 로드맵
강의와 프로젝트를 하나로 잇는 흐름
강의와 프로젝트는 서로 분리된 두 트랙이 아니라 하나의 커리큘럼입니다. 진행하다가 프로젝트가 나오면 그 자리에서 멈춰 완료하세요. 그렇게 만들어진 체크포인트가 다음 단계에서 다루는 구체적인 대상이 되므로, 이후에 나오는 개념들은 여러분이 이미 직접 살펴보고 학습시킨 시스템 위에 쌓이게 됩니다.
| 단계 | 읽기 | 그다음 실습 | 마친 뒤 설명할 수 있어야 하는 것 |
|---|---|---|---|
| 상태 추정과 표현 | L01, 이어서 L02 관측/상태/믿음 상태와 관측 인코딩 | P01: VAE 인코더 학습 | 관측이 왜 상태와 다르며 인코더가 어떤 정보를 남기고 버리는지 |
| 동역학과 롤아웃 | L02 잠재 동역학, 학습 분포와 자유 롤아웃, Dreamer 시리즈 | P02: RSSM 구축 | 잠재 상태에 기억과 불확실성이 필요한 이유, 단일 스텝 정확도가 장기 안정성을 보장하지 않는 이유 |
| 제어 | L03 계획과 제어 | P03: Dreamer 에이전트 학습 | 상상된 궤적이 Actor와 Critic을 어떻게 학습시키는지 |
| 대안 아키텍처 | L03 백본 선택 | P04: 동역학 백본 교체 | 어떤 병목이 RSSM을 다른 백본으로 교체할 근거가 되는지 |
| 평가 | L04 | P05: 평가 대시보드 구축 | 표현, 롤아웃, 계획 각각의 실패를 어떤 지표로 진단하는지 |
| 인과성 | L04 이후 L1-L5 계단을 다시 읽기 | P06: 반사실적 정확도 테스트 | 동작이 예측된 미래를 인과적으로 바꾸는지, 단지 상관관계만 있는지 |
| 최전선 | L05 | 필수 프로젝트 없음 | 어떤 열린 질문이 경험적 문제인지, 구조적 문제인지, 철학적 문제인지 |
다음 강의
L02는 압축보다 앞선 질문에서 출발합니다. 64×64 이미지에 속도와 가려진 정보가 없다면 모델은 현재 상태를 어떻게 추정할까요? 관측, 상태, 믿음 상태를 구분한 뒤 VAE(Variational Autoencoder)로 간결한 표현을 학습합니다.
상태 추정과 인코딩 절을 읽은 뒤에는 L02가 끝나기를 기다리지 말고 P01을 완료하세요. 그런 다음 잠재 동역학과 자유 롤아웃으로 돌아와 학습된 표현을 RSSM에 연결하고 P02를 진행합니다. 그쯤이면 이 강좌의 핵심 예측 구성요소 두 개를 직접 만들고, 모델 자신의 입력 분포에서 단일 스텝 오차가 시간에 따라 어떻게 달라지는지도 확인하게 됩니다.
L01은 코딩이 필요 없으며, 수학 콜아웃도 모두 선택 사항입니다. L02는 기본적인 딥러닝 지식을 전제하고, 새로운 도구가 필요한 시점에 그때그때 설명을 덧붙입니다.
더 읽을거리
- Craik, K.J.W. The Nature of Explanation. Cambridge University Press, 1943.
- Ha & Schmidhuber (2018): World Models: V/M/C 세 모듈 프레임워크와 꿈속 학습의 원 논문
- Hafner et al. (2019): Dream to Control (Dreamer V1): RSSM과 잠재 Actor-Critic의 첫 엔드투엔드 구현
- LeCun (2022): A Path Towards Autonomous Machine Intelligence: JEPA 프레임워크와 월드모델을 인지의 핵심으로 보는 논지