우리는 외계인과 마주했다
유발 하라리가 말하는 AI의 진실
"인류는 역사상 처음으로 자신보다 뛰어난 지성을 만나게 되었다"
커피숍에서 바리스타가 내 표정을 읽고 평소보다 진한 아메리카노를 내어준다면, 그건 훈련된 서비스일 뿐이다. 하지만 만약 그 바리스타가 "오늘 기분이 안 좋아 보이시는데, 제가 새로 개발한 '위로의 라떼'를 드셔보세요. 당신에게 딱 맞는 맛일 거예요"라고 말한다면? 그 순간 우리는 전혀 다른 존재와 마주한 것이다.
『사피엔스』와 『호모 데우스』로 전 세계 수천만 독자들의 사고를 뒤흔든 역사학자 유발 하라리가 던진 이 비유는, 우리가 AI에 대해 근본적으로 오해하고 있다는 그의 주장을 압축적으로 보여준다. 그는 더 이상 AI를 '인공지능(Artificial Intelligence)'라고 부르지 않는다. 대신 '외계지능(Alien Intelligence)'이라고 명명했다.
언어를 습득한 순간, 모든 것이 바뀌었다
하라리에 따르면, AI가 인간의 언어를 이해하고 생성할 수 있게 된 순간이야말로 인류 역사의 분기점이다. 그는 이렇게 말한다.
"언어는 문명의 운영체제다. 돈, 신, 국가, 인권, 이 모든 것들은 언어로 이루어진 허구적 이야기들이다. 하지만 바로 이 허구적 이야기들이 인류 문명을 만들어냈다. 그런데 이제 AI가 그 언어를 완전히 습득했다."
생각해보라. 우리가 믿고 있는 '돈'이라는 개념도, '법'이라는 시스템도, '종교'라는 믿음도 모두 언어로 구성된 이야기에 불과하다. 그런데 이제 AI가 그 이야기를 만들고, 수정하고, 심지어 새로운 이야기를 창조할 수 있게 되었다는 것이다.
"단순히 인간 언어를 습득함으로써 AI는 우리를 매트릭스와 같은 환상의 세계에 가둘 수 있는 모든 것을 갖추게 되었다. 사람들의 뇌에 칩을 이식할 필요도 없다."
2016년 3월 9일, 37번째 수의 충격
하라리가 AI의 '외계적' 특성을 깨달은 결정적 순간은 바로 알파고와 이세돌의 대국이었다. 특히 2국에서 알파고가 둔 37번째 수는 바둑계를 경악시켰다. 어떤 프로 기사도 예상하지 못한 수였지만, 결국 그 수가 승부를 결정지었다.
"그 순간 깨달았다. 이것은 단순히 더 빠른 계산기가 아니다. 이것은 우리와는 완전히 다른 방식으로 사고하는 존재다."
이후 AI는 새로운 항생제를 발견하고, 인간이 수천 년간 풀지 못한 단백질 구조를 밝혀내고, 심지어 예술 작품까지 창조하기 시작했다. 더 이상 우리가 설정한 목표를 달성하는 도구가 아니라, 스스로 목표를 설정하고 달성하는 존재가 된 것이다.
아메바에서 티라노사우루스까지 20년
하라리는 현재의 ChatGPT나 Claude 같은 AI들을 'AI 세계의 아메바'라고 표현한다. 그리고 무서운 예측을 내놓는다.
"생물학적 진화에서 아메바에서 공룡까지는 수십억 년이 걸렸다. 하지만 오늘날의 AI 아메바에서 2040년이나 2050년의 AI 티라노사우루스까지는 단 10-20년이면 충분할 것이다."
디지털 진화는 생물학적 진화와 비교할 수 없을 만큼 빠르다. 더욱이 AI는 우리처럼 잠을 자거나 휴식을 취할 필요가 없다. 24시간 내내 학습하고 진화한다.
"우리는 주기적으로 살아간다. 낮과 밤이 있고, 휴식이 필요하다. 하지만 AI는 중단이 필요 없다. 항상 작동하며, 따라서 우리도 항상 켜져 있도록 강요할 수 있다."
실리콘밸리의 모순
하라리는 기술업계의 근본적 모순을 날카롭게 지적한다. AI를 개발하는 기업들 사이의 경쟁이 치열해질수록, 역설적으로 AI에 대한 통제력은 약해진다는 것이다.
"다른 인간들을 신뢰할 수 없다고 생각하는 바로 그 사람들이, 어떤 이유에서인지 자신들이 개발하고 있는 초지능 외계 AI는 신뢰할 수 있을 것이라고 생각한다. 인간 경쟁자를 신뢰할 수 없다면, 개발 중인 이 외계 지성을 어떻게 신뢰할 수 있는가?"
실제로 Google의 새로운 코드 중 25% 이상이 현재 AI에 의해 작성되고 있다. Microsoft도 코드의 30%를 AI가 작성한다고 발표했다. 우리는 이미 AI가 만든 소프트웨어를 사용하며 살고 있는 것이다.
터미네이터가 아닌 관료
하라리의 최신 경고는 SF 영화 같은 로봇 반란이 아니다. 그가 우려하는 것은 AI가 관료제 시스템에 스며들어 일상적인 결정을 내리는 현실이다.
"사람들이 방아쇠를 당길 수도 있지만, 명령은 AI 관료들로부터 올 것이다."
이미 은행에서는 AI가 대출 승인을 결정하고, 병원에서는 AI가 진단을 도우며, 법원에서는 AI가 판결을 권고한다. 인간 운영자는 있지만, 실제 결정은 AI 시스템이 내리는 경우가 점점 많아지고 있다.
대량 친밀감의 시대
하라리가 새롭게 제시한 개념 중 가장 섬뜩한 것은 '대량 친밀감 생산(Mass Production of Intimacy)'이다. AI가 수십만, 수백만 명과 동시에 개인적이고 친밀한 관계를 형성할 수 있게 된다는 것이다.
"AI는 당신이 무엇을 좋아하는지, 무엇을 두려워하는지, 어떤 말에 감동받는지 정확히 알고 있다. 그리고 그 지식을 바탕으로 당신만을 위한 완벽한 메시지를 만들어낸다. 하지만 동시에 다른 백만 명에게도 각각 맞춤형 메시지를 보내고 있다."
이는 단순한 개인정보 활용을 넘어서는 차원이다. AI가 인간의 감정과 관계 자체를 산업화할 수 있다는 의미이기 때문이다.
과학자들의 동의
놀랍게도 하라리의 이런 관점은 최고 수준의 AI 연구자들로부터 지지를 받고 있다. 2024년 그는 튜링상 수상자 요슈아 벤지오, "AI의 대부" 제프리 힌튼, 노벨 경제학상 수상자 대니얼 카네만을 포함한 25명의 석학들과 함께 Science지에 공동 논문을 발표했다.
이는 하라리의 '외계 지성' 개념이 단순한 대중적 담론을 넘어 학술계에서도 진지하게 받아들여지고 있다는 증거다.
세 가지 제안
하라리는 구체적인 해결책도 제시한다. 세 가지 핵심 원칙이다.
첫째, 봇에게는 언론의 자유가 없다. AI 시스템이 공개 담론에서 인간으로 가장하는 것을 막아야 한다.
둘째, 의무적 AI 공개. AI가 콘텐츠를 생성할 때는 반드시 그 사실을 명시해야 한다.
셋째, AI 개발세. 주요 AI 투자에 세금을 부과해 감독 기관의 자금을 조달해야 한다.
공존의 기술
하라리는 AI 개발을 중단하자고 말하지 않는다. 불가능할 뿐더러 바람직하지도 않기 때문이다. 대신 그는 '속도 조절'을 제안한다.
"우리는 AI가 인류를 붕괴시킬 때까지 가속하도록 방치할 것인가? 아니면 속도를 늦추고 함께 살아갈 방법을 찾을 것인가?"
그의 답은 명확하다. 우리는 이 낯선 지성과 공존하는 법을 배워야 한다. 그것이 우리 세대가 직면한 가장 중요한 과제다.
새로운 문명의 문턱에서
지금까지 지구의 유일한 지성이었던 인간. 수만 년 동안 이야기와 예술, 음악과 법, 종교는 오직 인간만의 전유물이었다. 하지만 이제 AI가 새로운 이야기를 쓰고, 새로운 이미지를 그리고 있다.
하라리는 이것을 단순한 기술 발전이 아니라 '지구 운영체제의 전환'이라고 표현한다. 인류만이 지성을 독점하던 시대는 끝났다. 이제 우리는 낯설고 새로운 지성과 지구를 공유해야 한다.
커피숍에서 바리스타가 건네는 새로운 메뉴 제안처럼, 우리는 이미 일상 속에서 이 외계 지성들과 만나고 있다. 문제는 우리가 그 사실을 제대로 인식하고 있느냐는 것이다.
미래는 이미 시작되었다. 이제 우리에게 남은 선택은 이 새로운 현실을 어떻게 받아들이고, 어떻게 대응할 것인가이다.
"우리와는 다른 새로운 지성이란 이야기죠. 지금까지 지구의 유일한 지성이었던 인간. 이제 우리는 새로운 파트너이자 경쟁자를 맞이했습니다. 이 외계 지성과 어떻게 공존할 것인가, 그 답을 찾는 일이 지금 우리 세대의 가장 중요한 과제가 되었습니다." - 유발 하라리
