CNN(합성곱 신경망)

3차원 데이터의 합성곱 연산 - 가중치와 편향

 

이미지는 세로, 가로, 채널의 3차원 데이터이다

이미지와 같은 3차원 데이터의 합성곱 연산을 살펴보겠다

3차원 데이터 합성곱 연산의 계산 순서

3차원 데이터 합성곱 연산의 예

2차원일 때와 비교하면, 길이 방향(채널 방향)으로 특징 맵이 늘어났습니다.

채널쪽으로 특징 맵이 여러 개 있다면

입력 데이터와 필터의 합성곱 연산을 채널마다 수행하고,

그 결과를 더해서 하나의 출력을 얻습니다.

 

3차원의 합성곱 연산에서 주의할 점은

입력 데이터의 채널 수와 필터의 채널 수가 같아야 한다는 것입니다.

 

한편, 필터 자체의 크기는 원하는 값으로 설정할 수 있습니다. 

단, 모든 채널의 필터가 같은 크기여야 합니다.

이 예에서는 필터의 크기가 (3,3)이지만, 원한다면 (2,2)나 (1,1), (5,5) 등으로 설정해도 됩니다. 

위 그림에서는 출력 데이터가 한 장의 특징맵이고 이는 채널이 1개인 특징 맵을 의미한다

그럼 합성곱 연산의 출력으로 다수의 채널을 내보내려면 필터 (가중치)를 다수 사용하는 것이다. 

 

위 그림과 같이 필터의 개수가 FN개이면 출력 특징맵의 갯수도 FN개가 생성된다

 

그리고 그 FN개의 맵을 모으면 형상 (FN, OH, OW)인 블록이 완성된다 

이 완성된 블록을 다음 계층으로 넘기겠다는 것이 CNN의 처리 흐름이다

 

합성곱 연산에서는 필터의 수도 고려해야한다 

그런 이유로 필터의 가중치 데이터는 4차원 데이터이며 (출력 채널 수, 입력 채널 수, 높이, 너비) 순으로 씁니다

예를 들어 채널 수 3, 크기 5x5인 필터가 20개 있으면 (20,3,5,5)로 씁니다.

 

합성곱 연산에서도 편향이 쓰입니다.

위 그림에서 보듯 편향은 채널 하나에 값을 하나씩으로 구성합니다. 

 

형상이 다른 블록의 덧셈은 넘파이의 브로드캐스트 기능으로 쉽게 구현할 수 있습니다. 

 

참고 : https://deep-learning-study.tistory.com/181

 

CNN 전체 구성 

CNN의 전체적인 구성은 다음과 같다.

CNN은 크게 2단계로 나눠지는데

첫 번째 단계는 특징 추출(Feature Extraction) 그리고 두 번째 단계는 분류 (Classification)이다.

 

특징 추출 단계는 

입력 데이터(input)의 고유한 특징 (invariance)을 찾는 단계이다

분류 단계는 

추출된 특징을 이용하여 Class를 선택하는 단계이다

특징 추출 단계 (Feature Extraction)

Convolution 과 Pooling을 반복하면서 이미지의 feautre를 추출함

 

Input : 이미지

Convolution Layer : 필터를 통해 이미지의 특징 추출

Pooling Layer : 특징을 강화시키고 이미지의 크기를 줄임 (sub-sampling)

 

이미지 분류 단계 (Image Classification)

 

Flatten Layer : 데이터 타입을 FC 네트워크 형태로 변경, 입력 데이터의 shape 변경만 수행

Softmax Layer : Classification 수행

Output : 인식 결과 

 

참고 : https://ctkim.tistory.com/entry/%ED%95%A9%EC%84%B1%EA%B3%B1-%EC%8B%A0%EA%B2%BD%EB%A7%9DConvolutional-neural-network-CNN%EC%9D%B4%EB%9E%80

 

https://wjunsea.tistory.com/99#%7C%20%EC%B6%94%EA%B0%80%20(2023.10.13)%20%3A%20ResNet%EC%97%90%EC%84%9C%20x%EA%B0%92%EC%9D%84%20%EB%92%A4%EB%A1%9C%20%EB%84%98%EA%B2%A8%EC%A3%BC%EB%8A%94%20%EA%B2%8C%20%EC%99%9C%20%EA%B8%B0%EC%9A%B8%EA%B8%B0%20%EC%86%8C%EC%8B%A4%EC%9D%84%20%ED%95%B4%EA%B2%B0%ED%95%98%EB%8A%94%EA%B0%80%3F-1

 

https://22-22.tistory.com/26

 

https://rubber-tree.tistory.com/entry/%EB%94%A5%EB%9F%AC%EB%8B%9D-%EB%AA%A8%EB%8D%B8-CNN-Convolutional-Neural-Network-%EC%84%A4%EB%AA%85

 

https://casa-de-feel.tistory.com/38

https://hong-zone17.tistory.com/77

https://velog.io/@hhhong/CNN

https://velog.io/@wltn39/CNN-%EC%8A%A4%ED%85%9D%EB%B3%84-%EA%B3%B5%EB%B6%80-1