우리의 문제는 정보 문제다
[책을 읽고] 유발 하라리, <넥서스> (2)
워낙 뛰어난 책인 <21가지 제언>의 속편이라서, 본의 아니게 혹평으로 시작한 <넥서스>의 감상평이지만,
이 책은 분명히 대단히 재미있고 유익한 책이다.
일단 큰 그림을 살펴보자.
인간의 환상(거짓)을 공동으로 믿는 능력으로 지구를 제패했다(사피엔스).
현대에 이르러 사피엔스는 진정한 정보처리장치로 진화 중이다(호모 데우스).
그런데 인공지능의 등장으로 사피엔스는 위협에 직면했다(21가지 제언).
민주주의를 잘 정비해서 이겨내는 수밖에 없다(넥서스).
이 큰 그림을 머릿속에 가지고, 책의 구체적인 내용을 살펴보자.
다 계획이 있는 하라리 (계획뿐 아니라 남편도 있다 - 383쪽 참조)왜 인공지능이 문제가 될까?
큰 그림으로 볼 때, 결국 생명은 정보처리장치다.
다른 방식보다 더 우월한 정보 처리 능력(공통서사 믿기 능력)으로 사피엔스는 지구를 제패했다.
그런데 21세기에 이르러, 사피엔스는 전혀 색다르면서 어쩌면 자기보다 더 우월한 정보처리장치를 발명하고 말았으니, 바로 인공지능이다.
인공지능이 인간의 도구로 머물러 있다면 좋겠지만 (별 큰 문제가 없겠지만),
인공지능은 인간을 배제하고 자기들끼리 네트워크를 만들 능력이 있으며, 곧 그렇게 될 것이다.
인간이 배제된 정보 처리 네트워크는 인류에게 위협이 될 수 있다.
'인류에 대한 인공지능의 위협'에 관해서는 이미 수많은 학자들의 설명이 있었지만,
개인적으로 나는 닉 보스트롬의 개미굴 비유가 제일 훌륭하다고 생각한다.
그래서 사족이지만, 다시 적어본다.
어느 마트 사장이 너무 장사가 잘 되어, 주차장 확장 공사를 하려고 인접 토지를 사들였다.
땅을 파헤치고 콘크리트를 덮으려고 사전 조사를 해보니,
이 주차장 부지에는 무려 2만 년 동안 훌륭한 역사를 이루며 살아온 거대 개미 군락이 존재하고 있었다.
그래서, 이 마트 사장은 개미굴 보존을 위해 주차장 공사를 그만둘까?
설마, 그럴리가.
마트 사장은 개미들에게 아무런 원한이 없다. 아니 감정 자체가 없다.
개미에게 아무런 악감정은 없지만, 그의 결정은 개미 문명의 종말을 가져온다.
인공지능 역시, 사피엔스에게 아무런 악감정 없이, 우리 문명을 절멸시킬 수 있다.
네트워크 문제
즉 우리의 문제는 네트워크 문제다. 더 구체적으로는 정보 문제다. (10쪽)
공동으로 환상을 믿는 사피엔스의 능력, 그것을 결국 네트워크의 힘이다.
그런데 네트워크는 지혜롭게 활용하기 어렵다.
네트워크는 그 구성원의 합보다 더 큰 힘을 내지만,
바로 그런 이유로 움직임을 제어하기 어렵다.
(네트워크의 플러스알파는 바로 거기에서 나오는 것이니 당연하다.)
네트워크를 돌아다니는 것이 정보다.
네트워크의 에너지라고 해도 좋지 않을까.
문제는 정보 교환이 진실을 규명하는가, 하는 문제다.
순진한 정보관은 정보 확장이 진실에 이른다고 본다.
그러나, 저자는 이를 정면으로 부정한다.
예컨대, 점성술은 오랫동안 정보로서 기능했지만, 진실과는 아주 거리가 멀다.
2005년에 미얀마 군사정권은 점성술의 조언에 따라 양곤에서 네피도로 수도를 이전했다고 전해진다. (49쪽)
네피도는 요새다. (출처: 매일경제 https://www.mk.co.kr/news/special-edition/4952460)<사피엔스>의 주제는 인류가 공통으로 허구를 믿는 능력으로 세계를 제패했다는 것이다.
그 허구는 분명히 정보로서 기능했지만, 대개의 경우 진실은 아니었다.
정보 교환은 진실을 목표로 하지 않는다.
정보 교환은 네트워크를 만드는 것, 그 자체가 목표다.
그 네트워크를 우리는 질서라 부른다.
정보 교환 과정에서 진실과 질서가 서로 대립하면, 네트워크는 질서를 택한다.
자신의 목숨을 지키는 것이다.
정보 교환의 대가였던 사피엔스는, 정보 교환으로 얻어진 질서를 통해 힘을 이루었다.
진리를 통해 힘을 얻은 것이 아니다.
신화라는 허구의 힘을 제대로 파악한 스탈린에 대한 우화를, 하라리는 소개한다.
아들이 자기 이름을 팔아 이익을 얻으려 하자, 스탈린이 꾸짖었는데 아들이 대들었다는 것이다.
스탈린은 아들을 꾸짖었다. 아들이 "저도 스탈린이에요"라고 항의했다. 그때 스탈린은 "아냐, 너는 아니야"라고 대답했다. "너는 스탈린이 아니고, 나도 스탈린이 아니야. 스탈린은 소련 권력이야. 스탈린은 신문과 초상화에 등장하는 사람이지 네가 아니야. 나도 아니고!" (60쪽)
선악을 떠나, 스탈린은 천재가 확실하다.
게다가 저렇게 자기 객관화가 가능한 천재라니, 불세출의 천재였던 트로츠키가 이기지 못한 게 당연하다.
***계속***
