kangetal

GAN과 flow-based model에서의 생성모델은 FID를 낮추고 IS를 높이기 위해 noise input이나 분산을 낮추어 diversity를 낮추고 성능을 높이고자 했다. 하지만 diffusion에서는 이러한 조작이 큰 효과를 보이지 못했다고 한다. 그래서 등장한 것이 Classifier guidance Diffusion이다. 앞선 포스팅에서 다뤘던 Classifier guidance Diffusion은 보조 classifier model을 추가하여 classifier의 gradient를 활용해 학습을 했다.위 그림에서 class에 강도를 더할수록 guidance strength가 강해지는 것을 알 수 있다. scaling factor를 조정하여 원하는 클래스의 이미지를 강하게 생성할 수 있는 ..

클래스가 주어진 디퓨전 즉, Classifier Guidance Diffusion은 DDPM과 DDIM에 class 정보가 추가로 주어졌을 때의 분포를 학습하는 것이다.  클래스가 주어진 DDPM의 새로운 분포 q_hat에 대한 아래 4가지 기본 정의와 성질을 알아야한다. 4개의 수식에 대해 알아보면, class가 주어지든 주어지지 않든 DDPM의 x0에서의 분포는 동일하며, x0가 주어졌을  때 class의 분포는 완벽히 정의되어있고, y가 주어졌을 때의 forward pass는 DDPM과 동일하고, class가 주어져도 markovian chain rule을 따른다는 것을 확인할 수 있다.  classifier guidance DDPM의 경우 동일하게 denoising 과정, 즉 backward pa..