전체 글(32)
-
ESRGAN+ : FURTHER IMPROVING ENHANCED SUPER-RESOLUTION GENERATIVE ADVERSARIAL NETWORK
https://arxiv.org/abs/2001.08073 https://github.com/ncarraz/ESRGANplus Contributions ESRGAN(Enhanced Super-Resolution Generative Adversarial Network)의 기본 블록인 Dense block 내에 추가적인 residual connection 을 추가하여 모델의 capacity 를 증가 StyleGAN에서 도입된 noise map 방식을 super-resolution에 도입하여 stochastic detail을 구현 Limitations Noise Input은 이미지에 따라 안 좋은 결과를 보이기도 함 (ex. 빌딩 이미지에서 stochastic detail은 오히려 안 좋았음) Thoughts..
2021.01.26 -
[논문 리뷰] Adversarially Learned Anomaly Detection
Model: Bidirectional GAN Reconstruction based Anomaly Detection Cycle consistencies in data-space and latent space Introduction Previous GAN base anomaly detection methods Reconstruction Error based anomaly detection Requires optimization of latent code in test time Slow Proposed method Reconstruction Error (in feature space) based anomaly detection Bi-directional GAN which includes encoder netw..
2021.01.20 -
[논문-리뷰]SRGAN, Photo-Realistic Single Image Super Resolution Using a Generative Adversarial Network
Super-resolution Satelite Medical Limitations of Mean-Squared-Error Super-resolution은 low-resolution에서 high-resolution으로 문제이기에 가능한 solution이 여러 가지가 가능하다. MSE는 가능한 여러 solution 중에 평균을 취하기 때문에 blurry한 reconstruction을 갖는다. 또한, perceptual distance를 반영하지 못하는 metric이다. SRGAN은 VGG를 이용한 feature map에서 mse 기반의 perceptual loss와 GAN loss 를 결합한 형태를 목적 함수로 제안한다. Feature distance에서의 평균값을 찾게된다면 blurry한 image rec..
2020.12.14 -
[논문 리뷰] One Model to Reconstruct Them All: A Novel Way to Use the Stochastic Noise in StyleGAN
StyleGAN 기반의 오토인코더 구조를 제안하였고, 기존 Image2StyleGAN 논문에서도 밝혀졌듯이 추가적인 학습 없이도 다양한 도메인 데이터를 복원할 수 있음을 보인다. 본 논문의 contribution은 stylegan의 noise에 대해서 탐구하여 얻은 결과이다. Research Questions To what degree does the latent code influence the reconstruction result? Can the stochastic noise provide more than stochastic variations of the generated image? Can a generator model (i.e. StyleGAN) trained in one domain be..
2020.12.14 -
Equal Linear
더 빠른 수렴을 위해서는 linear layer 에 다른 learning rate 를 적용한다. class EqualLinear(nn.Module): def __init__( self, in_dim, out_dim, bias=True, bias_init=0, lr_mul=1, activation=None ): super().__init__() self.weight = nn.Parameter(torch.randn(out_dim, in_dim).div_(lr_mul)) if bias: self.bias = nn.Parameter(torch.zeros(out_dim).fill_(bias_init)) else: self.bias = None self.activation = activation self.scale..
2020.12.14 -
[Pytorch] model weight 특정 부분만 불러오기
# https://discuss.pytorch.org/t/how-to-load-part-of-pre-trained-model/1113/2 pretrained_dict = ckpt_E["model_state_dict"] model_dict = encoder.state_dict() pretrained_dict = {k: v for k, v in pretrained_dict.items() if k in model_dict} model_dict.update(pretrained_dict) encoder.load_state_dict(model_dict)
2020.12.11