[모두를 위한 딥러닝] 합성곱 신경망(CNN)

고양이의 인식 반응

인간은 인공신경망을 만들 때, 뇌를 구성하는 뉴런과 그것이 연결된 구조를 참고했다. CNN 역시, 뇌의 실제 작동방식에 대해 영감을 받아 만들어진 신경망이다. 신경과학자 Hubel과 Wiesel은 한 실험에서 고양이가 화면을 바라볼 때의 뉴런의 반응을 관찰했다. 그 결과, 화면의 어느 곳이 바뀌느냐에 따라 활성화되는 뉴런이 다른 것을 알 수 있었다. 여기서 영감을 얻어 화면에 구역별로 뉴런이 대응되는 형태의 신경망을 생각해냈고, 이것이 CNN이다.

 

컨벌루션 레이어

5×5 이미지가 주어졌다. 우리는 이것을 '필터'를 낀채, 3×3씩 볼 것이다. 이미지에서 가장 첫 위치에 필터를 놓았다. 필터에는 이미지를 어떻게 볼 것인지 어떤 '가중치'가 적용되어 있고 이것을 토대로 이미지에서 하나의 값을 결정할 것이다. 결정한 값은 한번 다듬어('활성함수') 다음 이미지를 만드는데 사용된다. 결정이 끝나면 필터를 옮겨 다음칸을 볼텐데 옮기는 '보폭' 또한 우리가 조정할 수 있다. 보폭까지 정해서 한 바퀴를 모두 돌고나면 하나의 새로운 이미지가 만들어진다. 아무래도 3×3에서 1개로 값을 줄이다 보니 새롭게 만들어진 이미지는 크기가 줄어들 수도 있는데, 이를 원치 않을 경우 0을 테두리에 적절히 두르고(zero-padding), 필터링을 진행하면 된다.

이미지를 하나 만드는데에서 그치지 않는다. 여러개의 다른 가중치를 갖는 필터로 각각의 이미지를 만든다. 이것을 하나의 층으로 묶어 컨벌루션 레이어(Convolution Layer)라고 한다. 

 

Max Pooling

모두를 위한 딥러닝 lec 11

이미지의 특징을 뽑아내 더 작은 이미지로 압축시키는 과정을 Pooling이라고 한다. 여러가지 방법중 가장 자주 사용되는 Max Pooling은 정한 범위 내에서 가장 큰 값 하나만 골라 사용하는 것이다.

 

CNN

합성곱 신경망(Convolution Neural Network)은 가중치를 가지고 있는 필터가 노드 역할을 하며, 이것이 모여 레이어를 만들고, 활성함수(ReLU), 맥스풀링(Max Pooling)등의 과정을 거쳐 압축된 이미지가 생성된다. 이 이미지를 일반적인 인공신경망(NN)에 넣어 Softmax를 통해 이미지의 동물이 어떤 동물인지 구별할 수도 있고, Logistic을 통해 사람인지 아닌지 구별할 수도 있는 것이다. 아래 과정을 보며 CNN의 과정을 정리하면 좋을 듯 하다.

https://www.youtube.com/watch?v=f0t-OCG79-U

해당 유튜브 동영상에 달린 Austin Hyeon의 댓글

 

앞선 게시물에 링크했던 '모두를 위한 딥러닝' 강의를 듣고 필기한 노트에
추가적으로 공부한 것을 더해 작성한 게시글입니다.