AI와 종말론(1)

기술 담론의 블러핑

레이 커즈와일은 2045년경에 인류 문명은 특이점(singularity)과 마주하게 될 것이라고 말했다. 특이점은 기존의 모든 법칙과 규범이 더는 작동되지 않는 상태라고 할 수 있다. 그러한 특이점에 대한 담론을 나는 종말론적이라고 생각한다. 이번 글에서는 AI의 발전의 종말론적 함의에 대해서 살펴보고자 한다.

일론 머스크의 인터뷰: 세 가지 종말

2025년 11월 30일, 인도의 헷지펀드 매니저 니킬 카마트(Nikhil Kamath)가 일론 머스크와 2시간가량의 인터뷰를 진행했고, 또 며칠 뒤 그는 <문샷 팟개스트>에 출연하여 피터 디아만디스(Peter H. Diamandis)와 대화를 나누었다. 이 인터뷰 내용이 많은 반향을 일으키고 있다. 특히 일론은 <문샷 팟캐스트> 인터뷰에서 우리가 이미 특이점에 진입했다는 충격적인 주장을 했다. 사실 지금 우리는 특이점의 효과들을 실감하지 못하고 있다. 왜냐? 특이점이 만들 변화들은 아직은 ‘사건의 지평선 너머’에 있기 때문이다. 그러나 조만간 그것이 우리 눈 앞의 현실이 될 것이다. 일론은 그 때가 되면 마치 최정상에 오른 롤러코스터가 쏟아져 내려오는 것과 비슷할 것이라고 말했다. 그는 특이점이 만들어 낼 여러 가지 변화들에 대해서 얘기를 했는데 그 중 세 가지만 뽑아보자.

1) 노동의 종말

그는 가장 먼저 노동의 종말을 말한다. 그는 10-20년 내에 모든 형태의 노동은 종말을 고하게 되리라고 말했다. 일차적으로 사무실 노동이 AI에 의해 대체될 것이다. 그 뒤를 이어 휴머노이드와 로봇의 발전으로 육체노동도 대체될 것이라고 본다. 특히 그는 <문샷 팟캐스트> 인터뷰에서는 3년 내에 가장 뛰어난 외과의사보다 더 외과수술을 잘할 수 있는 휴머노이드가 출현하게 되리라고 했는데, 그러한 기술 발전 때문에 노동은 더는 필수가 아니라 선택이 될 것이라고 말하는 것이다.

2) 화폐의 종말

두 번째로, 그는 화폐의 종말을 말한다. 이 주장은 너무도 충격적인데, 꽤 여러 곳에서 인용되고 있다. 그가 이렇게 말하는 이유는 AI와 로봇의 공장 투입으로 노동 비용(cost)이 거의 제로에 수렴하게 되어 생산성이 무한히 증대됨으로써 기술적 디플레이션이 오게 될 것이기 때문이라는 것이다. 한 마디로 공짜 세상이 도래하리라는 것이다. 그는 기본 소득을 통해서 인류는 노동 없이 먹고살 수 있는 '보편적 고소득'을 누리게 될 것이라고 말하는데, 이것은 상품 가격이 대단히 낮아지는 기술적 디플레이션 때문에 가능해질 것이라는 것이다. 그리고 바로 이러한 기술적 디플레이션이 화폐를 더는 쓸모없이 만들 것이라고 말한다. 그래서 그는 저축은 필요 없다는 놀라운 주장을 한다. 그렇다고 화폐가 아예 사라지지는 않는다. 아마도 여전히 미래 사회에도 희소한 자원이 존재할 것인데, 그것은 아마도 에너지가 되리라고 본다. 따라서 미래의 화폐는 에너지가 될 것이라고 말한다.

3) 죽음의 종말

셋째, 그는 <문샷 인터뷰>에서 대담하게도 ‘죽음의 종말’에 대해서 말했다. 과거에 그는 영생을 끔찍한 저주인 것처럼 말한 바 있는데, 이 입장에서 다소 선회한 것이 아닌가 싶다. 그는 현재의 기술이 인류의 수명을 크게 연장하여 죽음을 늦출 것이라고 말했다. 인간은 죽음을 향하도록 프로그램되어 있는데, 만일 그 프로그램을 바꾸기만 한다면 인간은 최소 120세 이상은 살게 될 것이라고 주장했다. 그리고 이러한 항노화 기술이 더욱 발전하면 인간은 거의 ‘준불멸’의 상태에 이르게 되리라고 말했다. 이것은 레이 커즈와일이 2035년부터 인간은 죽음을 원한다면 스스로 선택해야 하고 그렇지 않으면 한정없이 죽음을 유보할 수 있으리라고 한 말과 통한다.

이 외에도 매우 다양한 생각들을 쏟아 놓았는데, 나는 그 중에서 이 세 가지 '종말'에 관한 담론에 주목했다. 왜냐하면 여기서 일론은 기술에 관한 이야기를 한 것이 아니라 기술 너머의 이야기, 곧 인문학적이고, 신학적인 이야기를 꺼내놓았기 때문이다. 그리고 그 이야기의 본질은 '종말론'이다.

웬 종말론?

왜 나는 일론이나 빅테크 리더들이 말하는 AI와 관련된 담론을 '종말론'이라고 규정하는가? 내가 AI의 종말론적 함의에 대해서 논한다고 할 때, 먼저 분명히 해둘 것이 있다. 나는 그러한 테크 담론을 과거 바코드나 666 음모론, 1992년에 휴거 된다는 시한부 종말론, 프리메이슨이나 일루미나티의 세계 정복 음모론 등에 대해서 말하려는 것이 아님을 분명히 하고자 한다. 그런 싸구려 종말론은 워낙 많은 문제를 일으키는 바람에 진지한 종말론적 탐구를 하는 데 막대한 지장을 주고 있다. 나는 그러한 싸구려 종말론에 기울어지지 않으면서도 현재 유행하는 AI 테크 담론의 종말론적 함의를 깊이 숙고해야 한다고 생각한다.

내가 AI 담론의 종말론적 함의에 대해서 말할 때, 이는 앞서 일론 머스크나 레이 커즈와일 등이 말하는 그러한 특이점 담론을 염두에 두고 하는 말이다. 우리가 반드시 기억해야 할 것은 기술은 단순히 하나의 기술이 아니라는 것이다. 과거에도 그랬지만 기술은 담론을 생산한다. 특히 오늘날 기술은 거대한 담론을 생산해 내고 있다는 점을 기억해야 한다.가령 개별 기술에 대한 담론은 물론이고, 투자 가치에 대한 담론, AI 버블에 대한 담론, 기술 패권 및 지정학적 충돌에 대한 담론 뿐만 아니라 인류의 문명의 방향성에 대한 담론도 포함한다. 이러한 형국은 마치 돌을 가운데 넣고 커다란 눈뭉치를 뭉치듯이 기술을 둘러싼 거대한 스노우볼 같은 메가 담론이 존재하고 있다고 할 수 있다. 그런데 바로 그 기술 담론이 기술 이상으로 우리의 세계관에 영향을 미칠 뿐만 아니라, 경제 방향과 국가 정책 등에 막대한 영향력을 미치고 있는데, 특히 기술 담론이 종말론적 성격을 띨 때 그러하다.

AI 종말론

나의 문제 의식은 그러한 기술 담론 중에는 특히 종말론적 함의를 포함한 종말론이 있다는 것이다. 기술 담론 중에서도 AI 테크 담론이 그러한 종말론을 이끌고 있다. 나는 AI 테크 담론의 종말론적 차원 세 가지를 살펴보고자 한다.

1) 기독교 종말론의 사상아, 기술 진보사상

가장 먼저 살펴볼 것은 '기술은 무한히 진보한다'는 기술 진보사상이다. 그리고 기술 진보사상은 본성상 종말론적이다. 하지만 기술 진보 사상이 종말론과 무슨 상관이 있을까? 현대 기술이 등장하기 이전으로 돌아가보자. 그 때에도 전통적인 기술은 존재했다. 그리고 특정한 영역에서 특정한 기간 동안, 특정한 사람들에 의해 기술은 발전했다. 그런데 전통적인 세계 그 어디에서도, 그리고 그 누구도 기술은 필연적으로, 무한히 진보한다고 주장하지 않았다. 가령 고려 시대에는 고려청자를 잘 굽는 장인이 있었고, 조선 시대에는 조선 백자를 잘 굽는 장인이 있었다. 그런데 당시 누구도 고려청자에서 조선백자로 기술 진보했다고 생각하지 않았다.

기술의 필연적이고, 무한한 진보에 대한 신앙은 18세기 이후 역사에 등장한 '진보사상'(progressivism) 덕분이다. 그리고 진보사상은 거의 전적으로 기독교의 종말론으로부터 비롯되었다. 그러니까 오늘날 우리가 기술이 필연적으로 무한히 진보하리라고 생각하는 기술 진보주의는 결국 따지고 보면 기독교 종말론의 사생아다. 그래서 기술 진보사상을 종말론적이라고 하는 것이다.

고래로 거의 모든 인류 문명은 역사를 무한한 순환으로 보았다. 밤낮의 순환, 날, 주, 달의 순환, 사계절의 순환, 생로병사의 순환, 왕조 순환... 이 모든 것들이 보여주는 것은 역사란 ‘무시무종(無始無終)’의 영겁 회귀이다. 역사는 시야에 한눈에 들어오지 않으며, 사유의 대상으로 삼기에는 너무나 광대하다. 굳이 표현한다면 역사란 거대한 원이다. 이러한 상황에서 역사를 기술하는 목적은 역사가 반복될 것인데, 그때 과거와 똑같은 오류를 반복하지 않기 위해서이다. 이런 역사관에서 역사의 진보란 애초부터 불가능하다.

그런데 성경은 바로 이러한 순환의 역사관을 직선의 역사관으로 바꾸었다. 이는 실로 혁명적인 전환이었다. 성경에 따르면 역사는 시작(창조)이 있고, 끝(종말)이 있다. 역사란 시작(창조)에서 끝(종말)을 향해 줄달음하는 직선이다. 성경에 따르면 역사는 2가지 방향으로 전개된다. 하나는 진보다. 역사가 시작점에서 끝점으로 진행해 나가면서 하나님의 뜻이 온전히 성취된다는 점에서 역사는 진보다. 그러나 동시에 그 날(종말)이 가까울 수록 사랑이 식어지고, 여러 가지 묵시적 재앙들이 출현하고, 신자의 믿음이 약화된다는 점에서 역사는 퇴보한다. 그런데 진보든, 퇴보든 공통적인 것은 역사에는 끝이 있다는 종말론이다. 기독교의 역사관은 본성상 종말론적이다.

진보사상가들(꽁트, 다윈, 마르크스)

이러한 기독교의 역사철학은 계몽주의 시대에 이르러 세속화된다. 상당히 많은 계몽주의들은 역사 자체의 진보라는 ‘진보사상’을 신봉한다. 그리고 이러한 세속적 진보 사상은 오귀스트 꽁뜨, 찰스 다윈, 칼 마르크스 등으로 이어진다. 이후 20세기 현대인은 역사의 진보를 자명한 진리처럼 받아들여지게 되었다. 특히 기술 발전은 진보 사상을 직관적인 진리로 받아들이게 만들었다. 다이얼 전화기에서 삐삐로, 시티폰으로, 무전기 같은 모토로라에서, 2G 폰으로, 그리고 스마트폰으로 핸드폰이 발전하고, 아이폰 모델이 iPhone 12, 13, 14... 로 개선되고, 테슬라 FSD 버전이 ver 12, ver 13, ver 14, ver 14.2.2.3... 등으로 업그레이드되는 것은 기술 진보 사상의 표지이다. 그리고 우리는 앞으로도 계속 이러한 버전이 업그레이드될 것을 믿는다. 기술은 필연적으로, 무한히 진보할 것이다. 이러한 기술 진보 사상은 기독교의 역사 철학으로부터 왔음을 기억할 필요가 있다.

2) 특이점 담론

두 번째로 AI 테크 담론이 종말론적이라고 하는 이유는 바로 특이점 담론 때문이다. 특이점이란 지금 우리가 알고 있는 모든 문명의 규범과 규칙 등이 더는 작동되지 않는 지점을 말한다. 급격하고 불연속적 역사 단절이 조만간 임하리라는 것이 특이점 담론의 요지다. 그리고 바로 이 때문에 특이점 담론은 지금 우리가 사는 문명의 종말을 기정사실화한다.

생각해 보라. 노동이 끝장나고, 화폐가 사라지고, 죽음도 무한히 연기된단다. 그런 세계를 우리가 상상할 수 있는가? 정말로 그러한 세계가 도래한다면 지금까지 우리가 알던 그 모든 문명과 문화는 끝나는 것이다. 윤리 규범은 물론이고, 인간관, 인생관, 역사관 등 모든 것은 완전히 새로운 형태로 재편되지 않을 수 없다. 그러니 이것이 종말론이 아니고 무엇인가?

흥미롭게도 이러한 특이점 담론은 1세기 크리스천들의 종말 사상과 무척 닮았다. 1세기 크리스천들이 성찬의 자리에서 ‘마라나타, 주 예수여 오시옵소서’라고 기도했을 때, 그들은 그들이 살던 세계의 문명의 종말을 기대했던 것이다. 예수 그리스도의 재림과 함께 완전히 새로운 세계가 출현할 것이라는 초기 크리스천들의 종말론은 깨어서 종말의 때를 대비하도록 끊임없이 신자들을 독려했다. 그런데 이것이 특이점 담론과 유사하다. 특이점 담론을 유포하는 이들은 조만간 특이점이 닥쳐올 것이니 깨어서 그 시대를 예비하라고 선포하고 있다.

3) 역사의 끝: 스타트랙 vs. 터미네이터

기술이 만일 필연적으로, 그리고 무한히 진보한다면 그 진보의 끝은 존재하는가? 존재한다면 어떤 모습인가? 기술 진보의 끝에 대해서 논할 때, 필연적으로 그 담론은 기술 담론을 넘어서 종말론적 담론이 된다. 그런데 테크 리더들은 기술 진보의 끝에 대해서 말하기를 좋아한다. 일론 머스크의 최근 인터뷰는 기술적 진보의 끝에 대한 얘기를 했는데, 그것은 정확히 종말론적 담론이다. 그는 인류의 미래를 스타트랙으로 갈 것이냐, 터미네이터로 갈 것이냐를 양자택일해야 할 것처럼 말한다. 스타트랙은 AD 22-32세기라는 먼 미래상을 담은 영화이고, 터미네이터는 매우 가까운 미래를 배경으로 한다. 그리고 이 두 이미지는 대단히 종말론적이다.

첫 번째 스타트랙은 유토피아를 그리고 있다. 인류는 상품의 부족함이 없이 완전한 풍요를 누리고 있다. 이는 모든 상품의 복제기(replicator)가 상품을 무한적으로 만들어 내기 때문이다. 따라서 화폐나 노동이 필요가 없다. 질병도 없다. 인류는 기본소득(UBI)이 아니라 기본 고소득(UHI)을 누리고 있다. 스타트랙의 세계는 탈희소성(post-scarcity) 사회이다. 인간은 노동이 선택이 된 사회에서 탐험과 창조적인 일, 그리고 자아실현을 추구하는데, 은하 여행은 그러한 자아실현의 한 방편 중 하나다. AI와 로봇은 인간의 가치관을 따르며 인간다움을 추구하거나 존중한다. 따라서 인간과 AI 및 로봇 간의 심각한 갈등은 존재하지 않는다.

이안 뱅크스의 <컬처 시리즈> 중 하나

이러한 스타트랙의 세계는 이안 뱅크스(Iain Banks)의 책 <컬처 시리즈>와 연결되어 있다. 이안은 여러 권의 컬처 시리즈에 관한 책을 썼는데, 먼 미래에 대한 책이라는 점에서 스타트랙과 비슷하다. 그런데 스타트랙보다 훨씬 더 종말론적이다. 그 미래 세계에는 ‘마인드’(Mind)라는 인공지능이 모든 상품과 자원을 분배함으로써 탈희소성 사회를 유지한다. 국가나 정부는 거의 찾을 수 없는데, 이는 전 세계를 완벽하게 효율적으로 통제하는 마인드 덕분이다. 그럼 마인드는 빅브라더가 아닌가? 마인드는 얼마든지 인간을 감시하고 통제할 수 있으나 그렇게 하지 않기로 선택했다고 설정되었다. 그리고 그 덕분에 인간은 자유롭게 자아실현을 할 수 있다고 소설을 써 내려간다. 이러한 컬처 시리즈를 일론은 좀 더 선호하는 듯 하다.

반면에 터미네이터는 가까운 근미래를 배경으로 하는 매우 디스토피아적인 세계를 보여주고 있다. 핵전쟁 후 세계는 폐허가 되었다. 그 폐허 속에서 기계는 인간을 사냥하고, 인간은 저항군으로 기계를 파괴하며 전쟁을 벌인다. 이러한 상황에서 풍요, 자유, 창의성은 들어설 자리가 없다. AI와 로봇은 스스로를 자기 개선하며 인간적인 가치관과 무관하게 셀프 진화한다. 스카이넷이나 T-1,000 모델에서 어떠한 감정이나 도덕도 느낄 수 없다.

일론은 인류 문명은 스타트랙(유토피아)으로 가거나, 터미네이터(디스토피아)로 가거나 양자택일을 해야 하는 상황에 조만간 마주하게 될 것이라고 말한다. 일론 자신의 의견은 스타트랙의 미래다. 좀 더 정확히 말하자면 장기적으로 인류 문명은 스타트랙의 미래로 향하겠으나 가까운 미래에는 터미네이터스러운 디스토피아적 전망이 훨씬 우리의 시선을 사로잡게 될 것이라고 말한다. 그에 의하면 스타트랙으로 가는 길은 울퉁불투한 비포장도로일 것이다. 이는 스타트렉의 세계가 자연법칙처럼 저절로 다가오는 것은 아니라는 말 뜻이기도 하다. 가능성이 낮기는 하지만 자칫 AI를 잘못 설계했을 때, 터미네이터의 세상이 오지 말라는 법이 없다는 것이다. 그러나 인류가 충분히 머리를 맞대고 미래를 잘 설계한다면 훨씬 높은 확률로 스타트랙의 세계가 도래하리라고 말한다.

이러한 일론의 두 세계의 모델은 확실히 종말론적이다. 이 두 이미지가 종말론적인 것은 과정에 대한 이미지가 아니라 궁극적 종착지에 대한 이미지이기 때문이다. 바꿔 말하면 이들 이미지는 현재의 기술 진보와 연결되어 있기는 하지만 본성상 이들 이미지는 궁극적인 종착점에 대해서 다룬다는 점에서 기술 담론을 넘어서 다분히 역사철학적이고, 종교적인 성격을 갖는다. 그래서 내가 종말론적 담론이라고 부르는 것이다.

에필로그

과학자나 기술자는 자신들이 잘 할 수 있는 기술을 발전시키는 일만 하는 것이 아니다. 그들은 늘 거시적인 관점에서의 문명의 진보에 대한 담론을 너무도 자주, 너무도 쉽게 떠벌인다. 테크 리더들은 인문학적, 철학적, 윤리적, 신학적 지식은 매우 일천함에도 불구하고 그들은 종말론적 담론을 주저함 없이 논한다. 그들이 그들의 종말론을 논할 때, 겨우 코믹북이나 영화적인 모티브를 가져 온다는 점에서 유치하기 짝이 없다. 그럼에도 불구하고 그들의 한 마디는 엄청난 영향력을 미친다. 산업 구조가 바뀌고, 국가 정책이 새롭게 수립되며, 주가가 출렁거리고, 공론의 장을 장악한다. 이것이 유감이라는 것이다. 자끄 엘륄은 이들의 이러한 떠벌임을 기술 담론의 블러핑(technological bluffing)이라고 했다. 다시 말하지만 블러핑된 담론이 진짜 문제다.

테크 종말론은 단순히 담론에 그치지 않는다. 왜냐하면 종말론은 궁극적 방향에 대한 담론이기 때문이며, 궁극적 종착점에 대한 담론은 곧 인류 문명을 그 방향으로 이끌어 갈 수 있다는 뜻이기도 하기 때문이다. 그러니까 테크 리더들이 종말론에 대해서 떠든다는 것은 곧 그들이 인류 문명을 자신들이 생각하는 방향대로 이끌어 가고 있으며, 그렇게 하고자 한다는 뜻이기도 하다는 의미이다.

하지만 우리는 그들에게 그러한 권한을 위임한 바 없다. 그리고 그렇게 해서도 안 된다. 그들이 테크 종말론을 유포할 때, 우리는 그 저의를 꿰뚫어 보아야 한다. 그리고 우리는 그들을 향해 '자동차나 만들라!'고 말할 수 있어야 한다. 우리는 그들의 테크 종말론에 대해서 비판적으로 해체하고 보다 공론의 장에서 보다 진지한 담론을 나눌 수 있는 논의의 장과 기구를 마련해야 할 것이다. As Soon As Possible!