Objective InfoGAN, an information-theoretic extension to the Generative Adversarial Network that is able to learn disentangled representations in a completely unsupervised manner. How? Information-theoretic regularization: 정보 이론을 GAN에 접목. noise z와 Code c로 생성 샘플을 생성할 때, Latent Code c~P(c)에 대해서 c와 생성 샘플 G(z,c) 사이에 mutual information이 최대화 되도록 유도하는 손실 함수를 추가하여 GAN을 학습. Variational Mutual Information..

CNN은 일반적으로 이미지에서 계층적 특징 추출을 위해 사용된다. CNN의 이러한 장점을 활용하여 2차원 이미지가 아닌 1차원의 sequential 데이터에도 CNN이 사용된다. 주어진 sequence data에서 중요한 정보를 추출해낼 수 있다. 1D filter shape: [height, n] n: input data embedding dim (fixed value) filter size에서 변경 가능한 값은 height filter는 수직 방향으로만 움직인다. NLP에서는 height는 몇 개 단어를 고려할 지 결정하는 값 Pros and Cons Pros 시간에 따라 기록된 센서 데이터를 처리하는 데 용이하다 (Ex. audio signals) 고정된 길이의 데이터를 처리하는 데 용이하다 "Sp..

Nature에서 출판한 글인 How to write a first-class paper을 읽고 정리한 글입니다. 전하는 바를 분명히 하라 (Keep your message clear) 모든 문장은 가장 쉽고 명확한 방법으로 작성해야한다. 시각 자료를 활용하라 본문에는 중요한 것만을 남기고 부수적인 내용은 부록에 작성하여라. "Discussion"에서 어떤 결과가 본 논문의 중요한 시사점인지 분명하게 밝혀라 논리적 구조의 틀을 만들어라 (Create a logical framework) 전체 논문과 각 문단에서 "Context - Content - Conclusion"의 틀을 이해하라 단 하나의 전달하고자 하는 바만을 명시하여라 관련 연구를 모르는 독자를 가정하고, 그들이 왜 당신의 논문이 중요한 지 설득..

Overview 제목: RandAugment: Practical automated data augmentation with a reduced search space 저자: Ekin D. Cubuk , Barret Zoph , Jonathon Shlens, Quoc V. Le 기관: Google Brain Paper: https://arxiv.org/abs/1909.13719 Summary: automated data augmentation 기법으로써, 오직 두 개의 parameter (N,M) 를 이용하여 기존 Automated Augmentation 기법보다 매우 간단한데 더 좋은 성능을 냄. 기존 연구 기존 automated augmentation 기법(AutoAugment, Fast Autoaugm..

Overview 제목: GANSpace: Discovering Interpretable GAN Controls 저자: Erik Härkönen, Aaron Hertzmann, Jaakko Lehtinen, Sylvain Paris 기관: Aalto Univ., Adobe Research, NVIDIA 학회: ECCV 2020 under review 요약: "Unsupervised identification of interpretable directions in an existing GAN" Pre-trained StyleGAN, BigGAN의 초반 activation space에서 PCA를 수행하여 얻은 각 component를 조절하여 image manipulation을 수행 PCA로 GAN의 laten..

Title: Expert-level detection of acute intracranial hemorrhage on head computed tomography using deep learning Conference: PNAS Summary: Architecture: PatchFCN, a patch-based fully convolutional neural network. Being a workhorse in medical imaging modality, Brain Computed Tomography(CT) needs a deep learning that can accurately identify diverse and very subtle cases of a major class of pathology..