"AI 초지능 유토피아"는 오는가?

정치적 투쟁이 가장 중요하다

장밋빛 전망

인공지능의 시대라는 표현이 무색하지 않은 시절이다. 모두가 인공지능 기술에 대해 말을 덧붙인다. 인공지능의 발전이 인류 종말을 가속화시킬 것이라고, 히브리 예언자마냥 떨리는 음성으로 경고하는 사람이 있다. 반면 누군가는 특이점 이후의 노동해방과 급진적 풍요사회의 전망을 읊으면서 장밋빛 미래에 흥분하여 안광이 번쩍인다. 비관적 예언이든 낙관적 전망이든 간에 인공지능의 발전으로 우리들의 일상과 사회 구조가 유례없는 변혁의 기로에 서 있다는 점만큼은 누구도 부정하지 않는다.

현재의 기술 발전을 선도하고 있는 빅테크의 CEO들은 어떻게 우리의 미래를 예상하고 있는가? 사실상 현재 인공지능 열풍의 시초라고 할 법한 Open Ai의 최고 경영자, 샘 알트만(Sam Altman)은 '지능과 에너지가 풍부해지면 인류는 사실상 모든 것이 가능해질 것이다'라고 예상한다. 인공지능이 창출하는 막대한 생산성은 사회 전체의 부를 증대시켜, 모든 사람이 더 나은 삶을 누리는 '번영의 시대'를 열 것이다. 그는 AI 덕분에 "우리 조부모 세대에게는 마법처럼 보였던 일들"을 할 수 있게 될 것이라고 말한다.

이세돌과의 바둑 대국으로 전 세계를 충격에 빠뜨렸던 알파고의 대부, 데미스 하사비스(Demis Hassabis)는 최근 8월 더 가디언과의 인터뷰에서 다음과 같이 이야기했다. 인간 수준의 범용인공지능(AGI)은 인류의 오랜 숙원인 질병, 빈곤, 에너지 문제 등을 해결하며 '급진적 풍요(radical abundance)'의 시대를 열 잠재력을 가지고 있다. "인류 역사상 처음으로 모든 것이 제로섬이 아닌, 정말 풍요로운 세계에 살게 될 수 있어요. 그리고 그게 가능하다면, 우리는 진짜로 별들 사이를 여행하게 될 겁니다." (we should be in an amazing world of abundance for maybe the first time in human history, where things don’t have to be zero sum. And if that works, we should be travelling to the stars, really.)

유토피아 초판본 표지(1516)

하사비스는 다른 최근 인터뷰에서는 범용 인공지능 이후의 본인 커리어에 대해 이야기하면서, 다른 복잡한 노동들은 AI에게 맡기고 본인의 취미인 게임 제작에 몰두할 수 있길 원한다고 이야기했다. 칼 마르크스가 이야기한 공산주의 유토피아 사회의 청사진과 맥이 맞닿는다고 느끼는 건 비단 나 혼자만의 인상이 아니리라. (아침에는 사냥하고, 오후에는 낚시를 하며, 저녁에는 소를 몰고, 저녁 식사 후에는 비평을 한다.)

노동계와 산업계가 발전에 적응하는 과도기는 분명 고통스러울 수 있으나 그 이후 펼쳐질 급진적 풍요와 탈-희소성 사회, 과학 기술적 돌파구가 쏟아지는 미래의 전망에 비하면 나름 감당할 법한 출혈로 보일 정도다. 정말로 그럴까? 지금의 지수적 발전이 계속된다면 레이 커즈와일(ray kurzweil)이 이야기한 '특이점'이 도래하고, 인간은 생물학적, 사회적 제약에서 벗어나 조상들은 꿈에서나 그리던 유토피아에 도달할 수 있을까?

반동적 기술 엘리트들의 부상

피터 틸(Peter Andreas Thiel)

실리콘밸리의 화려한 무대 뒤편에는 유토피아적 전망과는 전혀 다른, 어둡고 반동적인 흐름이 존재한다. 그 중심에 페이팔의 대부이자 감시 기업 팔란티어의 창립자인 피터 틸(Peter Thiel)이 있다. 그는 “더 이상 자유와 민주주의가 양립 가능하다고 믿지 않는다”라고 공언하며, 민주주의를 불신하며 경쟁을 죄악시하고 독점을 찬양하는 인물이다.

피터 틸이 창립한 소프트웨어 및 데이터 분석 기업 '팔란티어'는 톨킨의 소설 《반지의 제왕》에 나오는 팔란티리(palantiri)에서 따왔다. 팔란티리는 멀리서 일어나는 사건을 들여다보고 텔레파시로 소통할 수 있게 도와주는 마법의 수정 구슬이다. 문제는 팔란티리가 어둠의 군주 사우론이 중간계 지배의 음모를 꾸미는 도구로서 이용되었다는 사실이다. 팔란티어가 미국 정부 기관과 계약을 체결하고 사회 전반에 대해 영향력을 떨치려는 것을 볼 때마다 괜히 마음 한편이 섬뜩해지는 이유다.

Ulmo, Lord of the Waters (발라) - John Howe

피터 틸은 벤처투자사인 '발라 벤처스(Vlar Ventures)'도 세웠다. '발라'라는 명칭은 톨킨의 세계관 속 신적 존재를 칭하는 단어에서 따왔다. 스스로를 톨킨의 엘프 또는 발라와 동일시하는 듯 보이는 작명 센스가 아닐 수 없다. 피터 틸을 위시한 기술 엘리트들이 스스로를 대중과 멀리 떨어져 막강한 창조적 기술을 생산하는 주체와 동일시하고 있다는 혐의를 지울 수가 없다.

다른 기업가들도 반지의 제왕의 모티브를 따와서는 본인들을 모종의 초월적 존재로 포장하는데 여념이 없다. 안두릴 인더스트리즈(아라곤의 검 안두릴), 바르다 스페이스 인더스트리즈(톨킨의 세계관에서 별을 창조한 존재) 등의 이름이 그 방증이다. 재밌는 건 이들이 모두 트럼프에 대한 열렬한 지지자들이라는 점이다. 현 미국 부통령 JD 밴스도 피터 틸의 영향, 더 나아가 톨킨의 영향을 듬뿍 받은 인물로 스스로를 야만(오크)에 맞서 서구 문명을 지키는 존재로 이상화하고 있는 듯 보인다. 엘프가 만든 힘의 반지 나르야의 이름을 딴 벤처 캐피털 펀드 '나르야 캐피털'을 만든 이가 바로 지금의 밴스다.

아인 랜드 - 움츠린 아틀라스 표지

이들은 마치 아인 랜드(Ayn Rand)의 소설 속에 등장하는 우매한 대중을 지배하는 창조적 사업가들과 톨킨의 세계관에 등장하는 엘프, 신적 존재들과 스스로를 동일시하는 것이 아닌지 의문이 잔뜩 든다. 그들은 민주주의를 불신하며 엘리트들의 통치를 고집스레 옹호한다. 반동적 기술 엘리트들이 혁신을 이끌어 나가고, 그들에게 자금을 지원받는 극우 반동 보수 정치가들이 정계를 장악해 가는 현실이 우려되는 이유다. 그들은 왕과 영주, 그리고 충성스러운 신민으로 이루어진 위계적이고 전근대적인 질서에 대한 향수를 드러낸다.

민주주의의 소란스러움 대신, 현명하고 강력한 소수 엘리트가 세상을 이끌어야 한다는 그들의 신념은 AI 시대에 섬뜩한 함의를 갖는다. 초지능(Superintelligence)이라는 '절대반지'를 손에 쥔 기술 영주(Tech Lord)들이 세상을 통치하는 미래...... 밴스 부통령이 작년 파리 정상회의에서 AI의 발전을 열렬히 찬양한 것을 기억하는지? 나는 그가 모든 인간에게 평등하게 기술 발전의 과실이 분배된 사회를 자신의 목표로 삼고 있지 않으리라는 점을 자신할 수 있다.

중세 농노의 모습 - 베리 공작의 매우 호화로운 기도서(1412)

독단적 기술 엘리트들과 극우 관료들에 의해 AI 기술이 독점될 때, 우리가 마주할 미래는 유토피아가 아닌 디스토피아일 것이다. 소수의 거대 플랫폼 기업이 전 인류의 데이터를 독점하고, AI 알고리즘이 우리의 일자리, 교육, 심지어 사회적 신용까지 결정하는 ‘디지털 독재’가 도래할 수 있다. AI가 모든 것을 감시하고 예측하는 사회에서 개인의 자유와 존엄성은 설 자리를 잃고, 우리는 거대한 디지털 영지에 속박된 신민, 즉 ‘디지털 봉건주의’의 농노로 전락할지도 모른다. 알트만이나 하사비스 같은 기업가들의 유토피아적 미래상에 순순히 동의할 수 없는 이유다.

AI는 마르크스의 꿈을 꾸는가, 피터 틸의 꿈을 꾸는가?

현실에서 과학기술적 과실이 평등하게 분배되는 유토피아적 전망을 실현케 하는 키는 기술 자체에 있지 않고 정치에 있다. 작금의 기술 낙관주의자들의 견해는 순진하다 못해 위험하다. 기술 발전의 혜택이 저절로 대중에게 흘러들 것이라는 생각은 어리석은 환상이다. 다수 대중들이 서로 연대하여 정치적 조직화를 이루어내고, 상위 0.1% 기업가와 정치인들이 기술적 생산수단을 오롯이 독점하지 못하도록 막아내야 한다.

철학자 닉 보스트롬(Nick Bostrom)은 자신의 저서 《Deep Utopia》에서 초인공지능이 도래한 이후에 탈희소성 사회가 형성되고, 노동해방이 찾아오며, 질병, 노화, 빈곤 등 모든 종류의 고통에서 해방된 사회상을 예견한다. 그가 그려낸 세계에서는 모든 것이 너무나 풍요로워서 다 무료하기 때문에, 우리가 어떤 방식으로 삶의 의미를 직조해 나갈 것인지가 가장 중요한 질문으로 부상하게 된다. 동일한 맥락으로, 경제학자 케인즈는 1930년에 쓴 에세이에서 자신의 손자 손녀 세대가 기술 발전의 혜택을 누리며 불필요한 노동에서 해방되어 있을 것이라고 예상했다. 그러나 현실은 어떠했는가. 소수의 자본가와 관료들이 통치하는 자본주의 체제의 한계 안에서는 기술 발전이 곧 인간 해방으로 이어진다는 순진한 전망은 곧잘 환상으로 드러났다.

Karl Marx (1972) - Cecilia Vicuña

칼 마르크스가 자본주의 체제가 고도화되다 보면 자연스레 프롤레타리아 정치 혁명으로 공산주의 유토피아 사회에 도달하게 될 것이라고, 역사-결정론적인 견해를 취했다고 여기는 사람들이 많지만 진실은 이와 거리가 멀다. 마르크스가 중요시했던 것은 노동계급이 허위의식에서 벗어나 스스로를 조직화하고 정치적으로 대항하여 계급의식을 갖는 자기 주도적 변화였다. 이를 소수 지식인이 다수 노동계급을 깨우쳐 선도해야 한다고 엘리트주의적으로 왜곡했던 것은 후일의 마르크스-레닌주의, 스탈린주의였다.

역사의 경로가 평등한 사회로 자연스럽게 전이될 것을 기대해서는 안 된다. 마르크스의 주장처럼 가장 중요한 열쇠는 다수 민중이 조직화되어 연대하고, 정치적 행동에 나서는 데 있다. 극소수의 기술 엘리트들에게만 혁신을 맡겨놓는다면 우리가 마주할 미래는 마르크스가 그리던 유토피아가 아닌, 피터 틸과 그의 동료들이 바라마지 않는 플라톤적 철인 지배 사회로 귀결되지 않을까?

결국 정치적 투쟁이 핵심이다

인류는 이미 자동화, 인공지능, 신재생 에너지, 유전자 편집 등 희소성을 끝내고 모두가 풍요를 누릴 수 있는 기술적 기반을 마련하고 있다. 문제는 이것이 기술적 문제가 아닌 정치적 문제라는 점이다. 현재의 자본주의 시스템 하에서는 이러한 기술 발전의 혜택이 생산수단을 손에 쥔 소수의 거대 기업과 자본가에게 독점된다. 이로 인해 기술은 대중의 해방이 아닌, 불평등 심화, 일자리 불안, 기후 위기 가속화의 도구로 전유된다.

결론은 자명하다. 우리에겐 더 많은 평등이 필요하다. 그리고 이 평등을 요구하기 위해 더 광범위한 대중 정치 운동을 조직해야 한다. 거대 자본과 엘리트의 권력에 맞서기 위해서는 강력한 대중 운동이 필요하다. 《완전히 자동화된 화려한 공산주의(Fully Automated Luxury Communism)》에서 아론 바스타니(Aaron Bastani)는 다음과 같이 주장한다. 우리에겐 '좌파-포퓰리즘(Left-Populism)'이 필수적이라고. 여기서 '포퓰리즘'은 부정적 의미의 선동 정치가 아니라, '소수 엘리트 대 다수 대중'이라는 명확한 대결 구도를 설정하고 다수의 편에 서는 정치 전략을 의미한다.

금융 자본가, 거대 기술 기업, 기후 위기를 외면하는 정치인 등 현재 시스템의 혜택을 독점하는 '1%의 엘리트'를 공동의 투쟁 대상으로 설정하고, 이 구도를 통해 이전에는 흩어져 있던 노동자, 청년, 중산층 등 다수 대중을 '우리'라는 이름 아래 하나로 묶어 거대한 정치적 힘을 만들어낼 수 있다. 지금 전 세계에서 위세를 떨치는 포퓰리즘은 극우 포퓰리즘이다. 트럼프를 위시한 MAGA 광풍, 서구사회에 부는 파시즘 세력의 준동이 그 예이다. 처참하게도, 불안한 대중은 불확실성의 원흉인 무능한 엘리트와 자본주의 체제에 대항하지 않는다. 대신 국가주의와 민족주의를 내세우는 우파 선동가에게 충성을 바치는 것이 작금의 현실이다.

극우 국민연합에 반대하는 파리 시민들(2024)

이 갑갑한 현실을 좌파적 포퓰리즘 운동으로 전환해야 한다. 우파 포퓰리즘이 특정 민족, 국가, 인종을 편애하며 분열을 조장하는 것과 달리 좌파 포퓰리즘은 보편-연대-세계시민주의-녹색혁명을 지향한다. 마르크스가 아일랜드와 영국의 노동자들이 국경선을 넘어 연대하길 희망했듯이 나도 글로벌 민중 연대의 물결이 넘실대는 미래를 꿈꾼다. 앞으로의 10년 동안 지정학적 위기 상황과 통제 불가한 기술적 발전이 겹쳐져 다수 대중의 삶은 끊임없이 위협당하고 한계로 내몰릴 것이 자명하다.

선제적으로 조직화된 정치적 운동 없이는 극소수 권력자의 결정에 다수가 힘 없이 순응하는 미래가 강요될 것이다. 월가 점령 시위 이상의 저항적 운동을 모색해야 할 때다. 그래야만 사우론의 꿈을 꾸는 기술-관료 엘리트들의 정치적 영향력에 저항할 수 있는 집단적 힘이 결성될 것이다. 그 이후에야 지구-인민들에게 철학자 버트런드 러셀이 그려낸 이상적 미래가 실현될 첫 발자욱을 뗄 수 있으리라.

우리의 행성이 무엇이고 무엇일 수 있을지 한번 생각해 보라. 현재 대다수의 사람들에게는 고통과 굶주림, 지속적인 위험, 사랑보다 더 많은 증오가 있다. 행복한 세상이 존재할 수 있다.

경쟁보다 협동이 더 많이 눈에 띄는 곳, 지루한 일은 기계들이 하는 곳, 하는 일이라고는 죽이는 것밖에 없는 흉측한 기계들이 들어설 자리를 위해 사랑스러운 자연을 파괴하지 않는 곳, 시체들의 산더미를 생산하는 것보다 즐거움을 촉진하는 것이 더 존중받는 곳. 불가능하다고 말하지 마라. 불가능하지 않다. 다만 그런 세상은 고문을 가하기를 바라기보다 그런 세상을 더 많이 바라는 사람들을 기다리고 있을 뿐이다.

우리 각자 안에 갇힌 예술가가 있다. 그를 풀어주어 만방에 즐거움을 퍼뜨리게 하자.

- 버트런드 러셀, 마지막 에세이 (1967) 中