Convolutional Neural Network
- input의 로컬 structure을 고려
- multidimensional (D>2) 입력
- convolution layer => pooling layer => fully connected layer
convolution Operation
- 두 신호가 서로 영향을 주는 방식 분석함
- 다항식간의 곱셈 연산
- 이미지 고정, 가중치(kernel)정의, 둘 사이 convolution통해 정보 추츨
- convolution 대신 cross correlation
- output의 크기 유지하고 싶다면 :zero-padding
convolution Operation특징
- sparse interaction (일부분)
: 학습해야하는 parameter수 비약적 감소 / 윤곽선 추출!!
- Parameter sharing (node가 같은 weight사용)
: 학습에 필요한 parameter수 감소
- 교차법칙 ! 평행하게 이동먼저하든, convolution먼저하든 교차가능
Pooling
- 출력들을 샘플링하여 요약통계량으로 대체
- 구체적인 위치보단 특징의 존재여부가 중요한 경우, pooling으로 인한 invariant유용
- Max pooling이 가장 많이 활용됨.
- input representation 크기 감소, 계산 부담 경감
- noise 등으로 인하여 변동이 있는 경우, 불변하게 도출! 최댓값만 뽑으니까
CNN Representation
- 고차원의 표현이 가능해짐
Famous CNN structure + 교재참고
-