딥러닝 내용 개괄

유치원생들도 이해하는 딥러닝 공부를 표방합니다..!

*문제의 종류

- 회귀 (linear regression)

- 분류 (classification => 주로 logistic regression)

Neural Net (인공신경망)-> 뉴런과 매우 흡사 (=퍼셉트론)

뉴런: 전위가 임계값을 넘으면 다음 뉴런으로 신호를 전달, 임계에 미달하면 아무것도 하지 않음

퍼셉트론-> 다층퍼셉트론(XOR 문제 해결)-> (오차역전파) -> 신경망  --------한계-------à 딥러닝

한계와 해결책

1.   기울기 소실 문제 -> 활성함수로 해결 (하이퍼볼릭탄젠트, 렐루 등)

2.   속도와 정확도 문제 -> 고급경사 하강법 (SGD, momentum, nag, adagrad, rmsprop 등)

손실함수 (모델 평가역할?) : 신경망에서 출력된 결과 값과 실제 값 사이의 차이를 정의하는 함수.

손실함수를 최소화 하는 것이 신경망 학습의 목표

MSE 계열 (주로 회귀 계열) -> 수렴까지 시간이 오래 걸림

Cross Entropy 계열 (주로 분류계열) -> 출력값에 로그를 취해 오차가 커지면 속도가 빨라지고, 오차가 작아지면 속도가 감소

(100%는 아니지만 이렇게 구분해도 무방)

다중분류상의 문제 : 원핫 인코딩, 소프트 맥스로 해결