Generative Model 2

[Diffusion] Generative Models 2 (GAN/Wasserstein GAN/Pix2pix/CycleGAN

이번 글은 이준석 교수님의 Generative Models 2 강의를 참고하여 공부한 내용입니다.Generative Adversarial NetworksGAN은 다음과 같이 데이터를 생성하는 Generator와 생성한 것과 진짜 데이터를 구분하는 Discriminator로 구성돼 있습니다.서로 경쟁하며 학습을 하는데요. Generator는 Discriminator가 잘 구분 못하게 해야 하고 Discriminator는 Generator가 생성한 데이터인지 진짜 데이터인지 구분해야 합니다. Discriminator는 real vs fake binary classification(cross-entropy)을 해야 합니다.따라서 objective function은 다음과 같습니다.  $$  \max_{\the..

Diffusion 2025.03.03

[Diffusion] Generative Models 1 (PixelRNN/CNN, VAE)

이번 글은 이준석 교수님의 Generative Models 1 강의를 참고하여 공부한 내용입니다. Generative Modeling어떤 데이터를 생성하는 probability distribution이 존재한다는 가정하에 이 probability distribution \(P_{model}\)을 예측하는 것입니다.어떤 new data \(x\)에 대해 우리가 예측한 \(P_{model}\)을 이용하여 새로운 \(P_{model}(x)\)을 생성하는 것입니다. Generate을 하는 방법은 2가지가 있습니다. 첫 번째는 Explicit density estimation으로 \(P_{model}\)을 수식적으로 예측하여 이용하는 것입니다. 두 번째는 Implicit density estimation으로  \..

Diffusion 2025.03.02