by
Feb 24. 2019
기나긴 인공지능의 겨울시기 봄을 준비하다,테우보 코호넨
[야만인] 인공지능 탄생의 뒷이야기
핀란드에는 우리가 아는 IT 천재들이 많습니다.
MySQL 만든 몬티 와이드니어스 Michael Monty Widenius
InnoDB 만든 헤이키 튜리 Heikki Tuuri
Linux 만든 리누스 토발즈 Linus Benedict Torbalds
그런데 여기 원조 천재가 있습니다.
2008년 IEEE 프랭크 로젠블랫상을 받은
테우보 코호넨 Teuvo Kohonen 교수입니다.
이전 이야기로 돌아가 보면
사이버네틱스로부터 시작했던 인공지능의 연구가
존 매카시 John McCathy 와 마빈 민스키 Marvin Lee Minsky 의 기호주의로 꽃을 피우다
연결주의 프랭크 로젠블랫 Frank Rosenblatt 의 퍼셉트론 연구로 인공지능 역사에 신경망의 획이 그어집니다.
이어 마빈 민스키의 퍼셉트론 한계 주장에 의해 인공지능에 대한 실망이 쏟아지며 차가운 겨울이 시작됩니다.
이때부터 인공지능 연구자들은
연구비 지원도 거의 못 받고,
심지어 연구결과를 발표할 학술지도
찾기 어려워졌습니다.
그러한 인공지능 암흑기에도
한 줌 빛은 존재했습니다.
비선형 미분방정식을 이용하여 수학적 모델을 제시했던
스티븐 그로스버그 Stephen Grossberg
슈니치 아마리 Shunichi Amari
최적연상맵핑을 통한 자기조직화지도 고안한
테우보 코호넨 Teubo Kohonen
생물학적 시각장치에 기초한 네오코그니트론 고안
쿠니히코 후쿠시마 Kunihiko Fukushima
이 중 이번 이야기의 주인공 코호넨을 살펴봅니다.
그의 가장 유명한 기여는 자기조직화지도(SOM; Self-Organizing Map)입니다.
일명 코호넨 맵 Kohonen Map 또는 코호넨 네트워크 Kohonen Network 라고 부르는 알고리즘입니다.
알고리즘을 살펴보겠습니다.
1) 연결가중치를 초기화합니다. (0~1 사이값)
2) 새로운 입력벡터를 제시합니다.
3) 입력벡터와 모든 뉴런들 간의 거리를 계산합니다.
4) 최소거리에 있는 출력뉴런을 선택합니다.
5) 승자뉴런과 그 이웃에 있는 뉴런들의 연결가중치를 조정합니다
6) 지정된 학습횟수만큼 단계 2~5를 반복합니다.
여기서 식 2개가 나옵니다.
유클리디안 거리법 : 벡터 사이의 거리 계산
연결가중치 조정 : 코호넨이 제안한 학습결과 반영식
예시를 보고 이해를 해보겠습니다.
1) 연결가중치 초기값 세팅
2) 입력벡터 제시
3) 벡터 거리 계산
4) 최소거리 뉴런 선택(승자뉴런)
5) 연결가중치 조정 - 승자뉴런 및 이웃뉴런
6) 2~5단계 반복 - 지정된 학습횟수까지
이렇게 반복하면
입력층에서 특정뉴런으로 가는
연결가중치가 조정됩니다.
즉, 답을 알려주지 않았어도
스스로 지도를 완성할 수
있는 것입니다.
이런 코호넨 네트워크는 아래 분야에 활용됩니다.
화상회의
문자인식
연상기억
음성변환
패턴인식
최적화문제
데이터마이닝
NP-hard 문제
