2024년 노벨물리학상과 인공지능의 역사

2024년 노벨물리학상과 인공지능의 역사

1956년 존 매카시(John McCarthy, 1927~2011) 등이 주도한 컨퍼런스(Dartmouth Conference)에서 인공지능(AI)이란 용어가 탄생했다. 이들은 인간의 지능을 명시적인 규칙과 논리의 집합으로 보았다. 이런 접근 방식을 기호주의(Symbolism)라고 한다.

1957년 프랭크 로젠블랫(Frank Rosenblatt, 1928~1971)은 뉴런의 연결을 모방한 퍼셉트론(Perceptron)을 제안했다. 입력 데이터가 뉴런을 거치며 출력을 만드는 구조다. 이렇게 연결에 의해 정보를 처리하는 방식을 연결주의(connectionism)라고 한다. 1980년대까지 기호주의가 압도했고, 연결주의는 1980년대 중반에 부활했다. 1986년 역전파 알고리즘(back propagation)의 개량 버전이 발표되었다. ‘역전파’는 오차가 본래 진행방향과 반대방향으로 전파 된다하여 붙여진 이름이다.

이 알고리즘은 인공지능의 한 분야인 인공신경망(artificial neural network, ANN)을 학습시키기 위한 가장 기본적이고 일반적인 알고리즘이다. 연결주의의 부활로 곧 인간처럼 작동하는 신경망이 나올 것 같은 분위기였다. 1990년대 초중반쯤 기대는 실망으로 변했다. 이미지넷 인식대회에서 제프리 힌턴(Geoffrey E. Hinton) 토론토 대학 교수팀이 우승한 2012년 무렵에야 연결주의는 딥러닝이라는 이름으로 화려하게 부활한다. 

결국 2024년 노벨 물리학상은 존 홉필드(John J. Hopfield) 프린스턴 대학 교수와 제프리 힌튼(Geoffrey E. Hinton) 토론토 대학 교수가 수상했다. 인공신경망으로 기계학습을 가능케 하는 기초적 발견과 발명을 인정받았다. 존 홉필드 교수는 패턴을 저장하고 재생성하는 ‘홉필드 네트워크’를 개발했다. 제프리 힌튼은 데이터에서 속성을 자율적으로 찾을 수 있는 방법을 발명해 사진에서 특정 요소를 식별하는 작업을 수행할 수 있는 방법을 개발했다. 특히 힌튼 교수는 이미지를 분류하거나 학습한 패턴 유형의 새로운 예제를 만드는 사용하는 볼츠만 머신(확률적 신경망 모델)이라는 새로운 네트워크를 기반으로 머신러닝 개발을 시작하는 데 도움을 줬다는 평가를 받는다. 

2017년 트랜스포머 어텐션(transformer attention)이 등장하면서 두 번째 혁명이 일어난다. 번역, 드로잉, 작곡, 작문, 일부 최적화 문제 등에서 놀라운 수준의 산출물들이 쏟아지면서 대폭발이 일어났다. 연결주의의 승리에 중요한 두 요인은 합성곱신경망(convolutional neural network, CNN)과 그래픽처리장치(graphic processing unit, GPU)의 사용이다. AI 분야를 호령하던 기호주의는 퇴조했다. 이제는 연결주의 진영에 천재적인 인재가 넘친다.