L04 · 월드모델 진단하기: 구성 요소에서 배포까지

평가는 아키텍처의 이름이 아니라, 구성 요소가 에이전트 루프에서 맡는 역할에서 출발해야 합니다. 재구성 손실이 낮다고 해서, 서로 다른 동작을 주었을 때 예측된 미래가 그에 맞게 달라진다는 것이 증명되지는 않습니다. 에피소드 리턴이 높다고 해서 그 성공이 악용 가능한 모델 결함에 기댄 것인지 드러나지도 않습니다. 시각적으로 그럴듯한 롤아웃이라고 해서 플래너가 안전한 동작을 고른다는 것이 보장되지도 않습니다.

핵심 원칙: 먼저 실패한 인터페이스를 찾아낸 뒤, 그 실패를 드러낼 수 있는 지표를 골라야 합니다.

이번 강의는 네 개 층으로 구성됩니다.

• 진단 프레임워크: 표현, 한 스텝 동역학, 장기 롤아웃, 과제 수행 신호, 계획, 배포
• 실전 사례: Dreamer, TD-MPC, MuZero, STORM, Diamond를 통해 모델 인터페이스에 따라 프레임워크가 어떻게 달라지는지 보여줍니다
• 모델 공통 실패: 호라이즌 드리프트, 물리적 비일관성, 동작 조건화 실패, 모델 악용
• 배포 평가: 캘리브레이션, 지연 시간, 전이 성능, 안전성, 시스템 수준의 신뢰성

이 강의를 읽기 전에 P03과 P04를 완료한 뒤, P05는 선행 조건으로 여기기보다 진행하면서 이 프레임워크를 함께 활용하세요. 학습된 시스템 두 개를 손에 쥐고 있으면 진단 규칙들이 훨씬 구체적으로 다가옵니다.