생성형 모델은 unsupervised learning의 일종. 생성 모델의 목적은 동일한 분포에서 새로운 샘플을 생성해 내는 것

왼쪽의 학습 데이터는 분포 $P_{data}$ 로부터 나온 것 우리가 하고자 하는 것은 $P_{model}$을 학습시키는 것이다. 학습을 통하여 $P_{data}$와 같은 데이터를 생성하게 만드는 것

이를 위해서는 $P_{model}$과 $P_{data}$를 유사하게 만들어야 함

생성 모델에서는 ‘분포 추정’을 다뤄야 함

1. 명시적으로, 생성 모델 $P_{model}$의 분포가 어떨지 명시적으로 정의
2. 간접적으로, $P_{model}$에서 샘플을 만들어내도록 학습시키는 것은 동일 하지만 $P_{model}$의 분포 정의 하지 않음

3가지 모델에 대해 알아봄

1. pixelRNN/CNN
2. variational autoencoders(VAE)
3. generative adversarial networks(GAN)

• pixelRNN/CNN