딥러닝이라는 이단아들의 유배지,
제프리 힌튼의 차가운 망명
브런치 연재의 여덟 번째 페이지이자, 제2부 '거울 속의 폭풍'의 서막을 올립니다. 이번 화는 모두가 AI를 죽은 학문이라 조롱할 때, 인류의 뇌를 모방하겠다는 고집 하나로 설한(雪寒)을 견뎌낸 '이단아들'에 관한 기록입니다.
지능의 장례식이 끝난 뒤의 풍경
1980년대 후반부터 1990년대 초반, 전 세계 공학계에서 '인공지능'이라는 단어는 금기어나 다름없었다. 다트머스의 낙관주의자들이 약속했던 장밋빛 미래는 오지 않았고, 정부와 기업은 수십억 달러의 예산을 회수했다. 학회에서 AI를 연구한다고 말하는 것은 "나는 유령을 쫓는 사람입니다"라고 고백하는 것만큼이나 부끄러운 일이 되었다. 이것이 바로 AI의 두 번째 겨울, 즉 '빙하기'였다.
당시 주류 학계는 '기호주의(Symbolism)'에 함몰되어 있었다. 인간의 지능을 수천만 개의 논리 규칙으로 코딩하려 했던 그들은, 인간의 뇌가 작동하는 방식인 '신경망(Neural Networks)'을 연구하는 이들을 향해 "생물학적 신비주의에 빠진 사이비"라며 맹비난을 퍼부었다.
그 서슬 퍼런 비난의 중심에 한 남자가 있었다. 훗날 AI의 대부로 불리게 될 제프리 힌튼(Geoffrey Hinton)이었다. 그는 영국을 떠나 미국으로, 다시 미국의 군사 연구 지원을 거부하며 캐나다의 추운 벽지로 스스로를 유배시켰다.
왜 하필 캐나다였나: 지식의 망명지
제프리 힌튼이 캐나다 토론토 대학교에 자리를 잡은 것은 단순한 우연이 아니었다. 당시 미국은 레이건 행정부 아래 '스타워즈 계획' 등 군사적 목적의 AI 연구에만 막대한 자금을 쏟아붓고 있었다. 평화주의자였던 힌튼은 자신의 연구가 살상 무기에 쓰이는 것을 원치 않았고, 무엇보다 당장의 성과를 내놓으라고 닦달하지 않는 '사유의 자유'가 절실했다.
캐나다 고등연구재단(CIFAR)은 이 기이한 영국인 수학자에게 손을 내밀었다. 그들은 힌튼이 주장하는 "컴퓨터도 아이처럼 스스로 학습할 수 있다"는 가설이 당장 돈이 되지 않더라도, 그 질문의 깊이를 존중했다.
그렇게 토론토는 '인공 신경망'이라는 이단적 학문을 지키는 최후의 보루가 되었다. 힌튼과 그의 제자들—얀 르쿤(Yann LeCun), 요슈아 벤지오(Yoshua Bengio)—은 세상의 조롱을 피해 캐나다의 겨울 바람을 맞으며 밤낮으로 코드를 짰다. 그들은 스스로를 '신경망 음모론자들'이라 부르며, 언젠가 데이터와 연산 능력이 자신들의 이론을 증명해 줄 날이 올 것이라 믿으며 버텼다.
힌튼(오른쪽 끝)'딥러닝'이라는 이름으로의 세탁
힌튼은 영리한 전략가이기도 했다. 그는 '신경망'이라는 단어만 들어도 학계가 치를 떨자, 자신의 연구에 새로운 포장지를 씌우기로 결심했다. 그렇게 탄생한 단어가 바로 '딥러닝(Deep Learning)'이다.
"신경망 연구를 합니다"라고 하면 논문 심사에서 탈락했지만, "심층 학습(Deep Learning)에 관한 새로운 통계적 접근을 연구합니다"라고 하면 사람들은 호기심을 보였다. 이름 하나 바꿨을 뿐인데, 차갑게 식어있던 학계에 미묘한 온기가 돌기 시작했다.
하지만 본질은 변하지 않았다. 힌튼은 기계에게 '정답'을 알려주는 대신, 기계가 수많은 시행착오를 통해 스스로 '특징'을 잡아내게 하는 방식을 고집했다. 개와 고양이 사진 수만 장을 보여주면, 기계가 스스로 귀의 모양이나 털의 질감을 학습하여 구별해내는 방식. 이것은 인간의 학습 방식과 놀라울 정도로 닮아 있었고, 주류 학계가 그토록 경멸했던 '불확실한 확률'에 기반한 지능이었다.
2012년, 설원을 녹인 한 장의 사진
침묵은 길었다. 힌튼이 캐나다에서 버틴 시간은 무려 20년이 넘었다. 그리고 2012년, 전 세계 컴퓨터 비전 학계의 올림픽이라 불리는 '이미지넷(ImageNet)' 대회에서 전설적인 사건이 발생했다.
수만 장의 사진 속 사물을 맞히는 이 대회에서, 힌튼의 제자들이 만든 '알렉스넷(AlexNet)'은 2위 그룹을 압도적인 격차로 따돌리고 우승을 차지했다. 기존의 주류 방식들이 1%의 정확도를 올리기 위해 수년을 허비할 때, 딥러닝은 단숨에 10% 이상의 격차를 벌리며 승리했다. 그것은 학살에 가까운 승리였다.
그 순간, 전 세계 테크 기업들의 시선이 캐나다 토론토의 낡은 연구실로 쏠렸다. 구글, 마이크로소프트, 바이두는 수백억 원의 수표를 들고 힌튼을 찾아왔다. 20년 넘게 '이단아' 취급을 받던 유배지의 학자가 단 하룻밤 만에 인류의 미래를 쥐고 흔들 '예언자'로 추앙받게 된 순간이었다.
고독을 견디는 지능의 힘
제프리 힌튼의 이야기는 우리에게 중요한 질문을 던진다. 모두가 틀렸다고 말할 때, 자신의 신념을 지키기 위해 유배지를 자처할 용기가 우리에게 있는가?
오늘날 우리가 스마트폰으로 사진을 찍으면 자동으로 얼굴을 인식하고, 외국어를 실시간으로 번역하며, ChatGPT와 대화를 나누는 모든 일상의 기적은 힌튼이 캐나다의 추운 겨울 속에서 포기하지 않았던 그 '고집'에서 시작되었다.
하지만 아이러니하게도, 딥러닝의 시대를 연 힌튼은 최근 구글을 퇴사하며 다시 한번 세상을 놀라게 했다. 자신이 만든 기술이 인류를 위협할 수 있다는 공포를 느꼈기 때문이다. 80년 전 노버트 위너가 느꼈던 그 서늘한 예감을, 힌튼 역시 지능의 정점에서 마주한 것이다.
브런치 독자 여러분, 혁신은 화려한 실험실보다 고독한 유배지에서 더 자주 태어납니다. 당신이 지금 품고 있는, 아무도 알아주지 않는 그 '이단적 생각'이 어쩌면 20년 뒤 세상을 뒤흔들 딥러닝이 될지도 모릅니다.
다음 화에서는 힌튼이 쏘아 올린 딥러닝의 탄환이 가장 먼저 관통한 인간의 자존심에 대해 이야기해 보려 합니다. 2016년 서울, 전 세계가 숨을 죽이고 지켜봤던 대결. 이세돌과 알파고의 5국, 그 바둑판 위에서 벌어진 인류 지성의 마지막 저항과 종말에 관한 기록입니다.
[작가 노트]
이번 8화에서는 2부의 시작답게 현대 AI의 핵심인 '딥러닝'의 탄생 비화를 다뤘습니다. 기술적인 원리보다는 제프리 힌튼이라는 인물의 서사와 캐나다라는 공간이 갖는 의미를 부각하여, 한 편의 '지적 망명기'처럼 읽히도록 호흡을 조절했습니다.