12. CNN

Convolutional Neural Network

Convolutional Neural Network

- input의 로컬 structure을 고려

- multidimensional (D>2) 입력

- convolution layer => pooling layer => fully connected layer

convolution Operation

- 두 신호가 서로 영향을 주는 방식 분석함

- 다항식간의 곱셈 연산

- 이미지 고정, 가중치(kernel)정의, 둘 사이 convolution통해 정보 추츨

- convolution 대신 cross correlation

- output의 크기 유지하고 싶다면 :zero-padding

convolution Operation특징

- sparse interaction (일부분)

    : 학습해야하는 parameter수 비약적 감소 / 윤곽선 추출!!

- Parameter sharing (node가 같은 weight사용)

    : 학습에 필요한 parameter수 감소

- 교차법칙 ! 평행하게 이동먼저하든, convolution먼저하든 교차가능

Pooling

- 출력들을 샘플링하여 요약통계량으로 대체

- 구체적인 위치보단 특징의 존재여부가 중요한 경우, pooling으로 인한 invariant유용

- Max pooling이 가장 많이 활용됨.

- input representation 크기 감소, 계산 부담 경감

- noise 등으로 인하여 변동이 있는 경우, 불변하게 도출! 최댓값만 뽑으니까

CNN Representation

- 고차원의 표현이 가능해짐

Famous CNN structure +  교재참고

-