1964년에 나온 AI 묵시록
2023년 개봉한 영화, <미션 임파서블 : 데드 레코닝>에서는 메인 빌런으로 인공지능이 등장한다. '엔티티(The Entity)'라는 이름의 인공지능은 극 중에서 메인 빌런으로 대활약하며, 주인공인 탐 형을 괴롭힌다. 엔티티는 인공지능답게(?), 육체가 없다. 따라서, 그의 손과 발 역할을 하는 가브리엘이 등장한다. 가브리엘은 엔티티를 신처럼 모시며, 마냥 복종하는 모습을 보인다. 대천사 가브리엘에서 이름을 따왔다는 설이 그럴듯한 이유이다. 이와 관련해서는 작년에 아래와 같이 글을 쓴 바 있다.
인공지능이 나날이 놀라움을 보여주고 있는 오늘날, 인공지능이 숭배의 대상이 될 것이라는 예측은 그리 놀랍지 않다. 제도권 학자들 사이에서 인공지능이 종교의 위치에 오를 것이라는 논의도 심심치 않게 나오고 있다. 하지만, 1964년, 이러한 예언을 담은 AI시대에 대한 묵시록이 있었다면 놀랍지 않은가?
수학자이자 철학자이며, '사이버네틱스'란 개념을 처음 주창한 위대한 학자인 노버트 위너는 1964년 출간된 그의 저서 <신과 골렘> (국내에는 최근 <신 & 골렘 주식회사>로 번역 출간) 에서, 인공지능이 가져올 수 있는 변화와 위험에 대해 심도 있게 다루고 있다. 위너는 유대인 전통의 골렘 전설을 인용하여, 인간이 만든 지능형 기계가 우리의 삶에 어떠한 영향을 미칠지 경고의 메시지를 던진다.
유대인 전설에서 유래한 골렘은 점토로 만들어진 인공 생명체로, 주로 마법이나 신비한 의식을 통해 탄생한다. 골렘은 창조자의 명령을 따르며, 무한한 힘을 가지고 있다. 하지만, 골렘은 인간과 달리 창의적 사고력이나 판단력을 갖추지 못해, 엉뚱한 일을 벌이거나, 주인을 위험에 빠트리기도 한다. 위너는 인간이 만든 골렘을 인공지능에 빗대며, 인간이 만든 기계가 골렘처럼 도움이 될 수도, 큰 위험을 초래할 수도 있음을 보여준다.
위너는 저서에서 영국의 수학자 어빙 존 굿이 제시한 '지능 폭발' 개념을 언급하며, 초지능기계가 인간의 모든 지적 활동을 능가하게 될 것이라고 예견했다. 굿은 초지능기계가 자체적으로 더욱 지능적인 기계를 만들 수 있는 능력을 가질 때, 기계의 지능이 폭발적으로 증가할 것이라고 주장했다. 이는 인류가 통제할 수 없는 지능형 기계의 탄생을 의미하며, 인간의 지능은 뒤처지게 될 것이라는 위기감을 불러일으킨다.
1960년대 논해진 '지능 폭발' 개념은 저명한 미래학자인 레이 커즈와일이 2005년 발간한 자신의 저서 <특이점이 온다>에서 예견한 '기술적 특이점'과 그 궤를 같이 한다. 커즈와일은 인공지능이 전인류의 지능을 넘어서는 특이점이 올 것이고, 2045년이 되면 인간과 기계는 융합되어, 전 우주가 지능으로 가득 채워져 우주 그 자체가 지능을 가질 것이라 예언한다. 그리고 인류는 영생의 길에 접어들게 된다.
이 얘기를 그냥 듣는다면, 사이비 종교 교주가 하는 이야기 같다. 하지만 구글의 딥러닝을 이끌었던 저명한 미래학자이자 발명가가 한 이야기라면 듣는 자세가 달라진다. 참고로 커즈와일은 최근 새로운 저서를 발표하며, 특이점의 도래 시기를 상당히 앞으로 당겼다. 이에 대해서는 다음에 자세히 다뤄보도록 하겠다.
커즈와일의 예언이 나온 2005년만 해도 인공지능이 지금처럼 대세가 아니었다. 딥러닝은 개념이 겨우 나온 수준이었고, 하드웨어는 딥러닝을 뒷받침해주지 못하고 있었다. 그래서 커즈와일의 저서 <특이점이 온다>는 전 세계적 베스트셀러가 되었지만, 그저 먼 미래의 공상과학 이야기로 대중들에게 받아들여졌다. 하지만, 2016년 알파고가, 2022년 챗GPT가 등장하며 커즈와일의 특이점 이야기는 더 이상 미래가 아닌 현실로 받아들여지기 시작한다.
커즈와일의 예언도 놀라울 따름인데, 1960년대에 노버트 위너와 어빙 존 굿이 예언한 기계의 미래와 사회적 변화에 대한 담론은 더욱 놀랍다. 이제 인공지능에 대한 개념이 피어나기 시작한 시점에 인류의 미래를 걱정한 석학들의 예측이기에 우리는 더욱 귀를 기울일 필요가 있다.
"미래 세계는 어느 때보다 우리 지능의 한계에 대한 고군분투를 요구할 것이다."
위너는 로마의 노예였던 그리스 철학자가 주인을 위해 어려운 사고를 대신했던 것처럼, 기계가 인간의 사유를 빼앗아 갈 것이라고 걱정한다. 그리고 이는 현실화되었다. 지난번에 작성한 글에서 언급한 것처럼, 우리는 인공지능 알고리즘이 안내해 준 데로 행동한다. 이미 우리의 사유는 기계가 대신해 주고 있다.
그는 미래의 세상이 편안한 침대에 누워 로봇 노예를 기다리는 것이 아니라, 지능의 한계에 맞서는 더 힘든 투쟁의 장이 될 것이라 강조한다. 기계에 대한 의존은 기계에 대한 숭배로 바뀔 것이고, 기계 숭배는 이성의 사용을 포기하게 만든다. 삶의 의미를 안일하게 생각하는 사람들부터 기계에 잠식되어, 기계가 이끄는 대로 무비판적으로 행동할 것이다.
역사를 돌아보면, 인류는 중세에는 종교를, 근대에는 철학적 이성을, 현대에는 과학을 신봉해 왔다. 그러나 이러한 숭배의 끝이 어떠했는가? 1900년대 초반만 해도 인류는 철학과 과학과 이룬 업적에 심취해 있었다. 하지만, 그 끝에는 두 차례의 세계대전과 홀로코스트와 같은 비극적인 사건들이 있었다. 인간의 이성적 사고와 과학적 진보가 인류에게 파멸의 결과를 가져왔다는 것을 역사는 말해주고 있다.
인공지능을 숭배한다는 것이 종교처럼 믿고 따른다는 것을 의미하지 않는다. 인공지능이 모든 문제를 해결해 줄 것이라는 막연한 기대감에 빠져, 이성적 사고를 포기하고 기계를 맹신하는 것이 숭배로 이어지게 된다. 인공지능의 급속한 발전이 많은 편리함을 제공하지만, 그 이면에 위험이 도사리고 있다.
위너의 경고는 우리에게 중요한 교훈을 준다. 기술에 대한 맹목적인 신뢰 대신, 이성적 사고와 자기 성찰을 통해 기계 숭배에 빠지지 않도록 주의해야 한다. 기술의 발전을 활용하지 않을 수는 없다. 오늘날 사회에서 뒤처지지 않으려면, 인공지능이 우리에게 가져다주는 긍정적인 가능성들은 최대한 활용해야 한다. 동시에, 그 이면에 존재하는 위험들을 인지하고 대비하는 자세도 필요하다는 이야기이다.
인간과 기계의 관계에 대한 위너의 답은 다음과 같다.
"인간의 것은 인간에게,
기계의 것은 기계에게 주도록 하라."
