두 번 죽고 세 번 살아난 기술, 인공신경망
2022년 11월, ChatGPT가 세상에 나타났다.
그로부터 벌써 3년. 매일같이 새롭고 더 좋은 AI가 나왔다는 소식이 쏟아지고, 관련 주식은 연일 상승 중이다.
한쪽에서는 우리의 직업도, 미래도 눈 깜빡할 사이에 AI에게 대체될 것이라는 불안감.
다른 한쪽에서는 다 사기꾼들의 과대광고일 뿐이라는 냉소.
사실 뭉뚱그려 AI라고 부르기엔, 그 기술의 역사도 범위도 지나치게 넓고 거대하다.
모든 요리를 그냥 '음식'이라고 한 마디로 퉁치는 것과 다름없다.
오늘은 80년에 걸친 AI 기술의 역사에서 가장 결정적인 발명 중 하나인 인공신경망(Artificial Neural Network)에 대해 함께 알아보자.
시작은 지금으로부터 무려 83년을 거슬러 올라가야 한다.
1943년, 제2차 세계대전이 한창이던 시절.
신경생리학자 워런 맥컬록과 수학자 월터 피츠가 한 편의 논문을 발표한다.
"뇌의 신경세포를 수학으로 흉내 낼 수 있지 않을까?"
당연하게도 그 당시 사람들에게 '생각하는 기계'란 공상과학 소설의 영역이었지만, 두 사람은 진지했다.
뉴런이 전기 신호를 주고받는 방식을 수식으로 표현한 이 논문은, 훗날 인공신경망(Artificial Neural Network)이라 불리는 거대한 나무의 첫 번째 씨앗이 된다.
1956년 여름, 미국 뉴햄프셔주 다트머스 대학에 열 명의 과학자가 모였다.
존 매카시, 마빈 민스키, 클로드 섀넌, 너새니얼 로체스터—당대 최고의 두뇌들이며 컴퓨터와 인공지능과 관련된 수많은 개념들을 발명한 인물들이다.
"기계가 인간처럼 생각할 수 있다면, 그것을 연구하는 학문이 있어야 한다."
이 자리에서 '인공지능(Artificial Intelligence)'이라는 단어가 처음 공식적으로 탄생했다.
그중에서도 마빈 민스키는 핵심 주최자로서, 누구보다 열렬한 AI 옹호론자였다.
이 사실을 기억해 두자. 곧 다시 등장할 테니.
1958년, 코넬 항공연구소의 심리학자 프랭크 로젠블랫이 '퍼셉트론'을 만든다.
빛을 감지하는 센서 400개를 격자로 배열하고, 가중치를 자동으로 조절해서 도형을 구별하는 기계.
"적의 군함을 알아서 식별하는 기계"에 흥분한 미 해군은 막대한 자금을 지원했고, 뉴욕 타임스까지 대서특필했다.
로젠블랫은 이 기계가 "걷고, 말하고, 스스로를 인식하게 될 것"이라고까지 선언했지만...
과학자가 하지 말아야 할 말을 너무 섣불리 해버린 것이다.
1969년, 다트머스 회의의 핵심 주최자이자, '인공지능'이라는 이름을 세상에 알린 장본인 마빈 민스키가 동료 시모어 페이퍼트와 함께 『Perceptrons』이라는 책을 낸다.
이 책을 통해, AI의 가능성을 누구보다 외쳤던 사람이, AI에게 사형선고를 내리게 되었다.
설상가상으로, 1973년에는 영국 정부가 수학자 제임스 라이트힐에게 의뢰한 보고서까지 나왔다.
"AI 연구는 약속한 것을 이행하지 못했다."
이 보고서가 결정타가 되어, 영국 대학 대부분에서 AI 연구 지원이 끊겼고, 'AI의 한겨울'이 찾아왔다.
인공신경망 연구자들은 직장을 잃거나 연구 주제를 바꿔야 살아남을 수 있었다.
로젠블랫은 1971년, 43번째 생일 당일에 보트 사고로 세상을 떠난다.
민스키와 로젠블랫은 고교 동창이었다는 사실이, 이 비극에 묘한 씁쓸함을 더한다.
1986년, AI 연구의 주류는 인간 전문가의 지식을 규칙으로 옮겨 담는 '전문가 시스템(Expert System)'으로 옮겨간 시대. 인공신경망은 거의 모든 사람이 포기한 기술이었다.
영국 출신의 제프리 힌턴이 캐나다 토론토에서 묵묵히 연구를 이어가고 있었다.
미국에서는 연구비를 받기 어려웠기에, 캐나다로 건너갔다고 전해진다.
그가 동료들과 함께 발표한 '오차역전파(Backpropagation)' 논문은, 인공신경망이 스스로 학습하는 방법을 제시했다. 민스키가 지적한 한계를 정면으로 돌파하는 열쇠였다.
하지만 세상의 관심은 전문가 시스템에 쏠려 있었고, 이 논문에 주목한 사람은 극소수였다.
컴퓨터는 너무 느렸고, 데이터는 너무 적었다.
1990년대, 전문가 시스템마저 한계를 드러내면서 AI 전체가 다시 얼어붙었다.
두 번째 겨울이었다.
연구자들은 이력서에서 'AI'라는 단어를 지워야 할 정도였다.
인공신경망과 AI는 다시 조용히 잊히는 듯했다.
2012년, 힌턴과 두 제자가 ImageNet 이미지 인식 대회에 딥러닝 모델 'AlexNet'을 출전시킨다.
오차율 15.3%. 2위와의 격차가 10% 포인트 이상. 압도적이었다.
학계는 충격에 빠졌다.
"그 신경망이? 그 죽은 줄 알았던 기술이?"
그날 이후, AI 연구의 주류는 완전히 뒤바뀌었다.
여담이지만, 나의 학창 시절, 캐나다에서 어떤 대학을 가야 할까 고민하고 있을 때, 마침 토론토 대학에서는 힌턴과 제자들이 세상을 바꿀 AI기술을 한창 개발 중이었다. 물론 나는 그 당시 이런 사실을 전혀 몰랐고, 다른 대학에서 컴퓨터 사이언스를 배우길 택했는데, 가끔 다른 선택을 했으면 어땠을까 라는 몽상에 빠질 때가 있다.
2018년, 세 사람은 '딥러닝의 대부'로서 튜링상을 공동 수상.
2024년, 힌턴은 한 걸음 더 나아가 노벨 물리학상까지 받는다.
2010년, 신경과학자 출신의 데미스 허사비스가 런던에서 딥마인드(현 구글 딥마인드)를 설립한다.
"범용 인공지능(AGI)을 만들겠다"는, 당시로서는 허무맹랑하게 들리는 목표를 내걸었다.
2015년, 샘 알트먼과 일론 머스크를 비롯한 실리콘밸리의 거물들이 비영리 단체 OpenAI를 설립한다.
"AI가 소수 기업(=구글)에 독점되어서는 안 된다"는 명분이었다.
그리고 2022년 11월 30일, OpenAI가 ChatGPT를 세상에 내놓는다.
결과는 모두가 알다시피 출시 5일 만에 사용자 100만 명. 두 달 만에 1억 명.
인터넷 역사상 가장 빠른 성장이었다.
2026년 오늘, ChatGPT, Gemini, Claude—이 모든 AI의 근원에는 인공신경망이 뛰고 있다.
수십억 개의 가중치가 연결된 거대한 네트워크가 다음 단어를 예측하고, 이미지를 그리고, 코드를 짠다.
1943년 맥컬록과 피츠가 꿈꾼 "수학으로 만든 뇌"가, 80년이 지나 현실이 된 셈이다.
"이번에는 다르다"고 말하는 사람들이 있다.
수조 달러의 투자, 수억 명의 사용자, 매일 쏟아지는 실용적인 성과들.
인공신경망은 이제 검색엔진처럼, 스마트폰처럼 우리 일상에 깊이 스며들었다.
과거의 겨울은 기술이 기대에 미치지 못해서 찾아왔지만, 지금의 AI는 이미 충분히 쓸모 있다.
더 이상 겨울은 오지 않을 것이라고, 그들은 확신한다.
하지만 역사는 늘 "이번에는 다르다"고 믿었던 사람들에게 가장 잔인했다.
1958년 로젠블랫도, 다트머스 회의에 모였던 천재들도, 바로 눈앞에 AI의 시대가 왔다고 확신했다.
매번 혁명이라 불렸고, 매번 겨울이 찾아왔다.
지금의 열광이 이전과 정말 본질적으로 다른 것인지, 아니면 더 크고 화려한 거품일 뿐인지—솔직히 아직 아무도 모른다.
두 번 죽고 세 번 부활한 이 기술은, 이제 세 번째 생을 살고 있다.
이번 봄이 영원할지, 또 한 번의 겨울이 올진 아무도 장담할 수 없다.
다만 한 가지, 이전의 겨울과 확실히 다른 것이 있다.
이번에는 이 기술이 죽든 살든, 우리의 삶은 이미 돌이킬 수 없이 바뀌어 버렸다는 것.