독서노트: 넥서스10
대단원: 거미줄에서 고치로
11
실리콘 장막: 세계 제국인가, 세계 분열인가?
AI의 가장 심각한 위험은 한 사회의 내적 역학 관계가 아닌 새로운 무기 경쟁, 전쟁, 제국 확장을 초래할 수 있는 사회들 간의 역할 관계에서 발생한다.
컴퓨터는 아직까지 인간의 통제를 완전히 벗어날 만큼 강력하지 않다. 인류가 단합하는 한, AI를 통제하고 알고리즘이 오류를 찾아내 바로잡을 수 있는 제도를 만들 수 있다. 하지만 불행히도 인류는 단합한 적이 없다.
앞서 말했듯 독재자가 국방부장관보다 AI를 더 신뢰해 그에게 가장 강력한 무기를 감독하는 권한을 줄 수 있다. 그 결과는 파멸일 수 있으며 그것은 한 국가의 일로 끝나지 않을 것이다. 또한 다른 데는 관심 없고 자신들의 문제에만 집중하는 테러리스트들이 AI를 이용해 팬데믹을 일으킬 가능성도 있다.
그러므로 컴퓨터 정치를 이해하기 위해서는 개별 사회가 아닌 세계 수준에서 사회들 간의 관계를 어떻게 변화시킬지도 봐야 한다.
위의 두 가지 위험을 제외하면 국제 질서는 컴퓨터로 인해 두 가지 위협에 직면할 수 있다. 첫째, 인류는 새로운 제국 시대에 접어들 수 있고 둘째, 새로운 실리콘 장막에 따라 분열될 수 있다.
선구적인 민간 기업가들 덕에 미국은 AI 경쟁에서 선두였지만 러시아, 중국, 인도 등이 레이스를 시작했고 중국은 제2강 구도까지 올라섰다. 그러니까 이 경주는 국가 간 경쟁이 되고 있다. 승자는 무엇을 갖게 될까? 바로, 세계 지배다.
데이터의 컨트롤 타워가 베이징 또는 샌프란시스코에 있다면? 우리나라가 디지털 인프라와 AI 기반 시스템에 전적으로 의존하고 있으면서도 그 시스템에 대한 실질적인 통제 권한이 없다면 어떻게 될까? 이런 상황은 데이터 식민주의(!)를 초래할 수 있다. 앞서 살펴봤듯이 2010년대에 페이스북과 유튜브 같은 미국의 거대 소셜 미디어 기업들은 이윤을 목적으로 미얀마와 브라질 같은 먼 나라의 정치를 뒤흔들었다.
이미 이것을 우려한 많은 국가가 행동에 나섰다. 중국은 페이스북이나 유튜브 같은 서구의 소셜 미디어 앱과 웹사이트를 금지했고 러시아는 거기에 더해 중국의 앱도 금지했다. 인도 역시 마찬가지다. 미국은 틱톡의 사용자 데이터가 중국의 이익을 위해 쓰이고 있을지 모른다는 우려 때문에 틱톡을 금지할지 여부를 논의했다.
과거의 제국주의 시대와 비슷한 일이 일어날 가능성이 있다. AI 산업의 원재료는 데이터다. 새로운 제국주의 정보 경제에서는 전 세계에서 수집된 원자재가 제국의 허브로 흘러갈 것이다. 이 허브에서 최첨단 기술을 개발해 고양이를 식별하고 패션 트랜드를 예측하고 자율 주행차를 운행하고 질병을 진단하는 천하무적의 알고리즘을 생산할 것이다. 그리고 이런 알고리즘들은 다시 데이터 식민지에 수출되고.
이집트와 말레이시아의 데이터 덕분에 샌프란시스코나 베이징의 기업은 부자가 되지만, 카이로와 쿠알라룸푸르의 시민들은 여전히 가난할 것이다. 이윤도 권력도 그곳으로는 분배되지 않기 때문이다.
세계적인 회계 법인 프라이스워터하우스쿠퍼스에 따르면 AI는 2030년까지 세계경제에 15조 7000억 달러를 추가할 것으로 예상된다. 하지만 지금의 추세가 계속된다면 AI 분야의 두 선두 주자인 중국과 북미가 그 수익의 70퍼센트를 가져갈 것이다.
실리콘 장막 건너편 정보에 접근하는 것은 점점 더 어려워지고 있다. 예를 들어 중국과 미국 사이, 러시아와 유럽연합 사이에서 그렇다.
정치적, 문화적, 규정상의 차이로 각 진영은 서로 다른 소프트웨어를 사용하고 스마트폰이나 컴퓨터 같은 하드웨어도 다른 것을 사용한다. 미국은 동맹국에게 화웨이의 5G 인프라 같은 중국 하드웨어를 사용하지 말도록 압력을 가한다. 2022년 바이든 행정부는 AI 개발에 필수적인 고성능 컴퓨팅 칩 거래를 엄격하게 제한했다. (현재 트럼프 대통령은 세계 최대의 GPU 생산 업체인 엔비디아의 중국 수출을 금지하는 듯하다가 허용할 수도 있다는 입장을 보이고 있다) 이는 단기적으로는 AI 경쟁에서 중국의 발목을 잡겠지만 장기적으로는 중국이 최소 구성 요소에서조차 미국과는 뚜렷이 구별되는 완전히 분리된 디지털 영역을 구축하도록 몰아갈 것이다. 이렇게 두 디지털 진영은 점점 더 멀어질 가능성이 있다. 이것은 기술뿐 아니라 문화적 가치, 사회규범, 정치 구조에서도 달라질 가능성이 높다.
수 세기 동안 새로운 정보 기술은 세계화 과정을 촉진하여 전 세계 사람들을 가까워지게 했다. 하지만 역설적이게도, 오늘날의 정보 기술은 너무나 강력해서 인류를 갈라놓으려 한다. 최근 수십 년 동안의 핵심 은유가 웹web이었다면 미래의 은유는 고치가 될지도 모른다.
그 뒤는 앞으로의 문화적 전개를 과감하게 추측해보는 것으로 이어진다. 예시로 정신과 육체에 대한 오래된 신학 논쟁처럼 물리적인 몸과 온라인상의 정체성, 아바타의 관계 대한 대대적인 혼란에 대한 것이다.
내가 깨어 있는 시간 대부분을 컴퓨터 화면 앞에 앉아 가상의 관계를 맺고 근무하고 배달 음식만 먹는 등, 사회와 대면하는 일 없이 지낼 수 있는 상황이라면. 이것은 물리적 공간과 살아있는 육체를 잊고 망상 속에 살고 있는 불행한 현실이라고 봐야 할까. 불완전한 육체에 시달리는 유기적 세계에서 벗어나 디지털 세계의 무한한 가능성을 누릴 수 있는 이상적인 삶일 수 있다고 봐야할까.
이 논쟁은 유기체에 대해서만이 아니라 디지털 개체에 대한 태도에도 영향을 줄 수 있다. 후자의 경우는 충분히 AI도 다양한 권리를 누리는 법적 인격체로 받아들일 수 있을 것이다. 이 문제가 미국 진영과 중국 진영의 의견 차이가 된다면? 유럽 역사상 가장 파괴적인 전쟁이었던 30년전쟁은 적어도 부분적으로는 가톨릭교도와 개신교도가 '오직 믿음' 같은 교리와 그리스도가 신인지, 인간인지 또는 둘 다인지에 대한 의견이 달랐기 때문에 발생했다면 앞으로의 분쟁으로 충분하지 않을까?
AI 경쟁이 격화되어 제국들이 더 치열하게 경쟁할수록 무력 충돌의 위험은 커진다. 이것은 냉전 시대와 또 다른 파괴적인 양상이 될 수 있다. 첫째 사이버 무기는 핵폭탄보다 용도가 다양한다. 한 국가의 전력망을 붕괴시킬 수 있고 비밀 연구 시설을 파괴하고 선거를 조작하는 등 존재를 드러내지 않고 파괴적인 타격이 가능하며 무엇보다 확전에 대한 유혹에 빠지기도 쉽다. 실제 이스라엘과 이란, 미국과 러시아 같은 경쟁 국가들은 수년 동안 선전포고 없는 사이버 전쟁을 확대해왔다.
두 번째 예측 가능성에 관련한 것이다. 냉전은 고도로 이성적인 체스 경기 같았고 핵 충돌이 발생할 경우 파괴 확실성이 너무 커서 전쟁을 시작하려는 욕구는 그만큼 작았다. 사이버 전쟁은 이런 확실성이 없다. 이런 불확실성은 선제공격에 대한 유혹을 떨치기 어렵다. 왜냐하면 기회의 창이 언제까지 열려 있을지 아무도 모르기 때문이다. 게임 이론에 따르면 군비 경쟁에서 가장 위험한 상황은 한쪽이 우위에 있다고 느끼지만 그 우위가 점점 사라지고 있다고 판단할 때다.
이렇게 세계가 적대적인 디지털 제국으로 나뉜다면 냉전 시대 이상의 긴장도 높아지고 생태 위기 극복이나 AI와 생명 공학 같은 파괴적 기술을 규제하기 위해 효과적으로 협력할 수 없다. 이런 가운데 포퓰리스트들이 등장해 애국주의와 세계주의를 이분법으로 나누고 더더욱 공통의 이익, 협력보다는 자국만을 우선시해야 한다는 논리로 대중을 호도하고 있다.
나쁘게 쓰려면 한없이 나쁘게 써서 이 지구를 끝장낼 수도 있는 AI에 대한 규제와 활용에 대해 인간의 자기 파괴적 본성과 성악설적인 부분을 들어 비관적으로만 생각될 수도 있다. 하지만 전쟁의 강도를 결정하는 것은 변화하는 기술적, 경제적, 문화적 요인이다. 1950년대 이후로 초강대국들은 핵을 써서 승리해봐야 그것 역시 자살 행위임을 알았고 물질 기반 경제에서 지식 기반 경제로의 전환이 일어나며 전쟁의 잠재적 이익도 감소했다. 20세기 후반에는 군사주의 이상이 쇠퇴하며 예술가들은 전리품을 미화하기보다 전쟁의 어리석은 참상을 묘사하는데 집중했고 대부분의 국가들은 침략 전쟁이 국인 증진의 매력적인 도구라 여기지 않았다. 그래서 국가 간의 전면전은 현저히 줄어든 것이다. 국가들은 군비 예산을 줄이고 의료 등의 평화와 건강에 대한 의미있는 예산들이 늘어났다. 평화가 곧 국익증진이라는 것을 실감한 것이다.
하지만 또 낙관하기엔 곳곳에서 군국주의적인 지도자가 등장하고 심지어 2020년대에 들어와 러시아는 우크라이나를 무력으로 침공하는 사태까지 벌였다. 이 사태는 우크라이나 주변 국가들의 국방 예산을 늘리고 불안을 조성한다. 2021년 6월에 푸틴이 쓴 에세이를 보면, 그는 우크라이나의 국가로서의 존재를 부정하고 외국 열강들이 우크라이나 분리주의를 조장하며 러시아를 무력화하는 시도를 반복하고 있다고 주장한다. 망상과 편집증적인 이런 지도자들은 평화에 대한 관심보다는 포식자가 될 것이냐 먹잇감이 될 것이냐 하는 쪽의 인식으로 흐를 가능성이 높다. 하지만 그들이 명심해야 할 것은 AI 시대 우두머리 포식자는 AI일 가능성이 높다는 것이다.
하지만 우리에게는 이보다 많은 선택지가 있다. 나는 역사학자로서 변화가능성을 믿는다!
사피엔스-호모데우스를 통해 본의 아니게(저자의 말에 의하면) AI전문가가 되어 AI 기술 기업들의 초청을 받아 그들의 면면을 살펴볼 기회가 많았는데, 이것이 저자를 우려하게 하고 분노하게 하는 도화선이 되었던 것 같다. AI를 규제하고 통제할 기술, 장치를 만드는 것은 역시 기업가들, 정치인과 더불어 그들에게 직접적으로 고하는 글이 아닐까 한다. 자신의 의도를 꽤나 반복, 강조하고 있어 그 시급한 감정이 잘 느껴진다(반면 앞으로 그들이 하라리를 다시 초대하는 일이 있을까 싶다.)
더불어 AI 활용법이라든지 4차 산업 혁명에만 관심을 갖던 일반인 입장에서 AI의 무시무시한(나쁜 쪽으로) 잠재력을 엿볼 수 있었던 것이 좋았다. 현재도 딥페이크, 집단 컨닝 문제, 가짜 뉴스를 조장하며 합리적인 이성을 망가뜨리고 있지만 더 나아가 인간을 가장해 사람들을 조종할 수도 있다는 건 정말 답도 없어보이고 무서운 일이다.
이렇게 10회에 걸친 독서노트를 완주했다. 다른 책에 비해 독서 건망증이 덜 하리라 믿어본다. 그리고 무엇보다 올해가 가기 전에 끝낸 스스로를 격려한다.
