vae 2

[Diffusion] VAE (Variational Autoencoder)에 대한 공부

성민혁 교수님 강의를 보고 공부한 내용. 일단 처음 배우면 너무 어지러워서 뭘 배우려하는지, 어떻게 배우려하는지를 중심으로 정리해보았다. VAE가 구하려하는 것 이미지를 생성하려고 하는데, 그 이미지가 생성될 확률을 구하는 것이다. 즉, VAE는 실제 이미지 \(x\)에 대해 \(P(x)\)를 알아내려하는 것이다. 우리가 설계한 모델이 실제 이미지 \(x\)만큼 얼마나 잘 표현하고 있는지를 보는 것이다. 그럼 \(P(x)\)를 구하는 방법에 대해 알아보자.\(Monte-Carlo method\)를 이용해서 구하기먼저, \(Monte-Carlo\) 방법을 이용해서 구할 수있다.다음과 같이 표현할 수있는데구간에 대해 균등하게 random number를 샘플링해서 적분을 근사하는 것이다.하지만 정확도를 높이려..

Diffusion 2025.03.27

[Diffusion] Generative Models 1 (PixelRNN/CNN, VAE)

이번 글은 이준석 교수님의 Generative Models 1 강의를 참고하여 공부한 내용입니다. Generative Modeling어떤 데이터를 생성하는 probability distribution이 존재한다는 가정하에 이 probability distribution \(P_{model}\)을 예측하는 것입니다.어떤 new data \(x\)에 대해 우리가 예측한 \(P_{model}\)을 이용하여 새로운 \(P_{model}(x)\)을 생성하는 것입니다. Generate을 하는 방법은 2가지가 있습니다. 첫 번째는 Explicit density estimation으로 \(P_{model}\)을 수식적으로 예측하여 이용하는 것입니다. 두 번째는 Implicit density estimation으로  \..

Diffusion 2025.03.02