넥서스
-유발하라리
[프롤로그]
인간은 대규모 협력 네트워크를 구축함으로써 막대한 힘을 얻지만 바로 네트워크를 구축하는 그 방식 때문에 애초에 힘을 지혜롭게 사용하기가 쉽지 않다는 것이다. 우리의 문제는 네트워크 문제다. 더 구체적으로는 정보 문제다.
정보는 네트워크를 하나로 결속시키는 접착제다.
사피엔스는 수 만년 동안 신, 마법에 걸린 빗자루, AI 같은 것들에 대한 허구, 환상, 집단 망상을 꾸며내고 퍼뜨리는 방법으로 대규모 네트워크를 구축하고 유지해 왔다. 인간 개개인은 자신과 세상에 대한 진실을 추구하는 경향이 있어도 대규모 네트워크는 허구와 환상에 의존하여 사회 구성원들을 묶고 질서를 유지한다.
21세기에... 모든 것을 통제하는 네트워크를 만들어 후손들이 그들의 거짓과 허위를 폭로할 엄두조차 내지 못하게 만들지도 모른다. 망상에 기반한 네트워크는 필패한다고 가정해서는 안되다. 그런 네트워크의 승리를 막고 싶다면 적극적으로 노력해야 한다.
네트워크의 힘을 과소평가하게 되는 이유는 대규모 정보 네트워크가 작동하는 방식에 대한 오해-정보에 대한 순진한 관점- 때문이다. 순전한 정보관은 우리가 정보를 수집하고 처리하는 과정에서 맞닥뜨리는 문제들 대부분은 훨씬 더 많은 정보를 수집하고 처리하면 해결된다고 본다. 오류를 완전히 피할 수는 없지만 대체로는 정보가 많을수록 정확성이 높아진다는 것이다. 우리가 정보를 정확하게 분석하여 중요한 진실을 발견하다고 해서 그 결과물을 지혜롭게 사용한다는 보장은 없다. 지혜는 흔히 올바른 결정을 내리는 것을 의미하지만 무엇이 올바른 것인지는 사람, 문화, 이념에 따라 다르다. 순진한 정보관은 정보는 본질적으로 좋은 것이라서 많이 가질수록 좋다고 보고, 또한 힘을 가질 뿐 아니라 그 힘을 잘 사용하기 위해 필요한 지혜도 생긴다고 한다. 이런 순진한 정보관은 더욱 강력한 정보 기술 개발을 정당화함으로써 컴퓨터 시대와 인터넷 세계의 준공식적인 이데올로기가 되었다. 최근 몇 세대 동안 인류의 정보 생산은 양과 속도에서 공히 전례 없는 증가를 보였다. 모든 스마트 폰은 고대 알렉산드리아 도서관보다 더 많은 정보를 담고 있으며 휴대폰 소유자를 전 세계 수십억 명의 사람들과 즉시 연결시킨다. 하지만 숨 막힐 듯 빠른 속도로 유통되는 이 모든 정보 때문에 인류는 그 어느 때보다 자멸에 가까이 와 있다.
첫째, AI의 힘은 기존의 인간 갈등을 증폭하여 인류를 분열시킬 가능성이 있다.
둘째, 실리콘 장막은 인간을 한 집단과 다른 집단으로 분리하는 것이 아니라, 모든 인간을 인간의 새로운 지배자 AI와 분리할지도 모른다. 우리는 어디에 살든 불가해한 알고리즘으로 짜인 거미줄 속에 갇히게 될 것이다. 이 알고리즘들이 우리의 삶을 관리하고 우리의 정치와 문화를 재편하며 심지어 우리의 몸과 마음까지 재설계하는 동안 우리는 우리를 통제하는 힘을 멈추기는커녕 더 이상 이해할 수 없게 될 것이다. 만일 21세기의 전체주의 네트워크가 세계 정복에 성공한다면 그때 전제주의를 운영하는 주체는 인간 독재자가 아니라 비인간 지능일 것이다. 위험의 규모를 고려하면 AI는 모은 인간이 관심을 가져야 할 문제다. 모두가 AI 전문가가 될 수는 없지만, AI는 스스로 결정을 내리고 스스로 새로운 아이디어를 구상할 수 있는 역사상 최초의 기술임을... AI는 도구가 아니라 행위자이다. 과연 컴퓨터 알고리즘이 지혜로운 결정을 내리고 더 나은 세상을 만들 것이라고 믿을 수 있을까? AI는 우리 종의 역사뿐만 아니라 모든 생명 형태의 진화 경로를 바꿀 가능성이 있다.
카리스마 넘치는 지도자나 불가해한 AI에게 권력을 넘겨주고 싶지 않다면 먼저 정보가 무엇인지, 정보가 인간 네트워크의 구축을 어떻게 돕는지, 정보가 진실이나 권력과 어떤 관계인지 이해할 필요가 있다. 포플리스트들이 순진한 정보관을 의심하는 것은 옳지만 권력이 유일한현실이며 정보는 무기에 불과하다는 생각은 잘못되었다. 정보는 진실의 원재료가 아니지만, 단순히 무기인 것도 아니다. 이런 양극단 사이에서 우리는 인간의 정보 네트워크와 힘을 현명하게 다루는 인간의 지혜에 대해 복합적이고 희망적인 관점을 충분히 찾을 수 있고 이 책은 그런 중간 지대를 탐색하기 위한다.
