본문 바로가기

𝓒𝓪𝓽𝓮𝓰𝓸𝓻𝔂26

High-Resolution Image Synthesis with Latent Diffusion Models stable diffusion is latent diffusion latent diffusion is open sourced version of diffusion 2024. 2. 9.

An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale (ViT) 1. 파이토치 트랜스포머를 활용한 자연어 처리와 컴퓨터비전 심층학습 p601~623 2. Shusen Wang - Vision Transformer for Image Classification (유튜브) 3. 고려대학교 DSBA - [Paper Review] ViT 자연어 처리에서의 트랜스포머는 컴퓨터 비전에서도 많은 영향을 주었는데, 이전 컴퓨터비전 관련 연구는 합성곱 신경망에 트랜스포머 모델의 셀프 어텐션 모듈을 착용한 모델이 많았지만, ViT(Vision Transformer)는 트랜스포머 구조 자체를 컴퓨터비전 분야에 적용한 첫 번째 연구다. CNN 모델의 합성곱 계층 방법은 이미지 분류를 위해서 지역 특징을 추출했다면 ViT는 셀프 어텐션을 사용해 전체 이미지를 한 번에 처리하는 방식으로 구현한.. 2024. 2. 7.

CNN(합성곱 신경망) 3차원 데이터의 합성곱 연산 - 가중치와 편향 이미지는 세로, 가로, 채널의 3차원 데이터이다 이미지와 같은 3차원 데이터의 합성곱 연산을 살펴보겠다 2차원일 때와 비교하면, 길이 방향(채널 방향)으로 특징 맵이 늘어났습니다. 채널쪽으로 특징 맵이 여러 개 있다면 입력 데이터와 필터의 합성곱 연산을 채널마다 수행하고, 그 결과를 더해서 하나의 출력을 얻습니다. 3차원의 합성곱 연산에서 주의할 점은 입력 데이터의 채널 수와 필터의 채널 수가 같아야 한다는 것입니다. 한편, 필터 자체의 크기는 원하는 값으로 설정할 수 있습니다. 단, 모든 채널의 필터가 같은 크기여야 합니다. 이 예에서는 필터의 크기가 (3,3)이지만, 원한다면 (2,2)나 (1,1), (5,5) 등으로 설정해도 됩니다. 위 그림에서는 출력.. 2024. 2. 7.

[ResNet] Deep Residual Learning for Image Recognition https://arxiv.org/pdf/1512.03385.pdf ResNet이란? 레즈넷(Residual Network, ResNet)은 합성곱 신경망 모델임. 대규모 이미지넷 데이터세트 학습함 VGG 모델과 합성곱 계층, ReLU, 풀링, 완전 연결 계층 등을 이용해 구성함. VGG 모델 같은 경우에는 더 작은 크기의 필터를 사용해 계산 효율성을 향상시켰지만, 깊은 신경망 구조로 인해 기울기 소실 문제가 발생함. 그래서 레즈넷은 이러한 기울기 소실 문제를 해결하기 위해서 잔차 연결(Residual Connection), 항등 사상(Identity Mapping), 잔차 블록(Residual Block)을 통해 기울기 소실 문제를 해결하고 계산 효율성을 높임 레즈넷은 계층의 수에 따라 ResNet-18.. 2024. 2. 4.

[순환신경망] RNN의 문제점 RNN이란? RNN(Recurrent Neural Network)은 시계열 데이터를 처리하기 위해 고안된 모델로 아래 그림에서와 같이 이전 시각(계층)의 출력 값(은닉 값)이 다음 시각(계층)으로 전파되어 즉, 과거 정보를 계승하여 시계열 데이터에 대응하는 신경망임. 은닉층에서 나온 결과값이 다시 은닉층으로 돌아가 새로운 입력 값과 연산을 수행하는 순환 구조임. 완전연결층(Fully Connected Layer), CNN(Convolutional Neural Network)은 은닉층에서 나온 결과값이 출력층 방향으로 이동하지만, RNN은 은닉층으로 되돌아가 순환한다는 점에서 큰 차이가 있음. 아래 그림은 은닉층에서 결과 값이 나와 다시 은닉층으로 되돌아가는 순환 구조를 형성하는 것을 볼 수 있음 위 그림.. 2024. 2. 3.

Attention is All You Need https://arxiv.org/pdf/1706.03762.pdf 모델 생성 배경 기존 RNN의 문제점 : Long term dependency, Gradient Vanishing, Gradient Exploding Problem Seq2Seq 모델의 문제점 : Context Vector의 정보 손실 문제, RNN에 의존적 Transformer는 self-attention mechanism을 통해서 이를 해결함 - Long term dependency이 무엇이고 어떤 이유로 발생하는지, 어느 과정에서 발생하는지, 이에 대한 해결방안은 무엇인지 - Gradient Vanishing, Exploding 문제도 마찬가지 - Seq2Seq의 Context Vector에 관한 문제 및 전반적인 한계점 파악하고 -.. 2023. 12. 6.

이전 1 2 3 4 5 다음

티스토리툴바