잘해보자고? '어떻게'가 빠졌다.
[책을 읽고] 유발 하라리, <넥서스> (7)
이 책의 결론은 이미 첫 글에서 밝혔다.
인공지능의 위협에 대비해서, 우리는 민주주의의 핵심인 자정 장치를 잘 지켜야 한다. 끝.
그런데도 여러 편의 글로 길게 서평을 쓰는 이유는, 독서가 검색과 다르기 때문이다.
단지 필요한 정보, 결론을 얻으려고 우리는 책을 읽지 않는다. (대개는 그렇다, 고 믿는다.)
책읽기는 훈련이며, 생각하는 능력을 강화시키는 작업이다.
운동이 근육을 강화시키는 것과 같다.
내가 하던 것과 다른 생각은, 미세한 근육 손상처럼 내 마음을 강화한다.
그래서, 지금까지 6개의 글을 통해 이 책에서 가져갈 만한 생각거리를 찾아 보았다.
1. 이 책은 <21가지 제언>에서 인공지능 관련 부분을 조금 더 확장한 것인데, 디테일이 부족해 실망스럽다.
2. 사피엔스의 집단 허구 능력은 결국 정보 교환을 통한 네트워크 만들기 능력인데, 정보 교환은 그 자체로 문제가 된다. 정보 교환이 목적은 진실이 아니라 질서이기 때문이며, 질서는 종종 진실을 파괴한다.
3. 질서를 위해 많은 것이 희생되며, 이에 따라 비극이 일어난다. 그나마 비극이 적게 일어나는 체계는 민주주의인데, 민주주의의 핵심은 선거가 아니라 자정 장치다.
4. 민주주의는 종종 오염된다. 포퓰리즘과 전체주의가 대표적인데, SNS와 정보 폭발로 인한 포퓰리즘은 마녀 사냥을 현대에 되살리고 있다.
5. 인공지능이 이전의 위협과 다른 이유는, 비인간 네트워크 행위자를 등장시키기 때문이다. 이들이 어떤 일을 벌일지 우리는 모른다.
6. 우리는 돈이 전부인 자본주의 세계에 살고 있는데, 돈을 위협할 존재가 바로 인공지능(비인간 네트워크 행위자)이다. 이들은 돈을 필요로 하지 않는다. 이들에게는 돈이 아니라 정보가 중요한데, 소셜 크레딧 시스템은 정보를 돈이나 다름없는 존재로 만들 수 있다.
최종장
하라리가 명시적으로 말하고 있지는 않지만,
지금 까지 인류 역사에 주로 나타난 정치 체제는 분산 대 집중의 구도였다고 생각한다.
지금 우리 시대에, 분산은 민주주의, 집중은 전체주의로 대표된다.
포퓰리즘은 민주주의를 표방하지만 그 실상은 전체주의인, 일종의 혼종이다.
이 책에 나오는 내용은 아니지만, 한번 생각해보자.
인류 역사를 급진적으로 바꾼 기술 혁명은 어느 쪽에 유리하게 작용했을까?
농업혁명 이전에는 국가라는 게 없었다.
따라서 농업혁명이 분산 대 집중 중 어느쪽에 유리했을지 묻는 것은 부적절하다.
굳이 비교해본다고 해도, 어느쪽이 우위에 있다고 보기는 어렵다.
집단 농업이 왕권 강화에는 유리했을지 몰라도, 농업 생산력 자체에 유리했다고 볼 수는 없다.
로빈슨 크루소도 잘 먹고 잘 살았다.
산업혁명 역시 애매하다.
1990년대 소련과 공산권의 붕괴라는 사건 때문에 산업혁명은 분산, 즉 민주주의의 승리였다고 생각하기 쉽다.
그러나 지금 거의 모든 나라가 가지고 있는 5개년 계획은 스탈린 작품이다.
현재 존재하는 민주주의 체계 중 전체주의적 요소가 없는 것은 없다고 생각한다.
예컨대 주민번호는 본질적으로 전체주의적인 작품이지만,
코로나-19 사태 당시 보여주었듯이 정보 시대에 엄청난 위력을 보여준다.
정보혁명에서 우위는 더욱 애매해진다.
정보의 축적은 검색이라는 난제를 수반하는데, 이를 극복하는 가장 효과적인 방법은 다름아닌 분류다.
다시 말해, 관료제다.
제조업 경쟁력에서 강력한 추격력을 보여주었던 중국은
인공지능 분야에서는 추격을 넘어 선도력을 보여주고 있다.
전체주의가 어쩌면 더 강력할지도 모른다.
정보 교환이라는 분야에서는 말이다.
결론
정보 처리라는 분야에서 어쩌면 전체주의가 더 강력할 수도 있다는 통찰, 이것이 하라리의 뛰어난 혜안이다.
그러나 개개인의 삶을 사는 우리에게 전체주의는 불행일 수밖에 없다.
'순진한' 정보관을 가진 사람들은 자유로운 정보 흐름으로 진실이 밝혀지고, 민주주의가 승리할 것이라 생각한다.
그러나, 아니다.
하라리가 이 책 전체를 통해 전달하고 싶은 메시지가 바로 이것이다.
민주주의는 절대로, 저절로 승리하지 않는다.
우리는 민주주의를 수호해햐 한다.
민주주의는 곧 자정 장치다.
우리는 이들 자정 장치를 지켜야 한다.
그러나 어떻게?
내가 이 책을 실망스럽다고 말하는 이유는, 바로 이 '어떻게'가 너무 부족하기 때문이다.
예컨대, '감시'라는 위협에 맞서기 위해 우리에게 필요한 것들 중 하나가
선의(good will)라는 주장(439쪽)은, 한숨이 나오게 한다.
선의라는 단어를 정의하기 전에 우리는 선을 정의해야 한다.
인류 역사에서 선을 정의한 사건들은 (하라리가 전작에서 이야기했듯이) 모두 비극으로 이어졌다.
삶의 목적은 행복이다.
이 말에 반대하는 사람은 거의 없을 것이다.
그러나 이것이 절대 기준이 되는 순간, 우리에게 주어지는 것은 <멋진 신세계>다.
21세기를 버텨내기 위해 가장 중요한 인간의 능력은 유연성일 가능성이 높고, 민주주의는 전체주의 체제보다 유연하다. (459쪽)
이 문장 역시 반대할 사람은 거의 없을 것이다.
그러나, 과연 그럴까?
코로나-19 사태 당시 미국이 중국보다 유연하게 대처한 걸까?
자정 장치는 어떤가?
앞선 글에서 강신일 배우의 명대사를 이미 인용했다.
자정 장치 자체가 썩었을 때, 뭘로 자정을 할 것인가?
단지 세개의 주장만을 살펴보았지만, 충분하다고 생각한다.
이 책의 결론은, 그대로 받아들이기에는 너무 부족하다.
생각할 계기를 만들어주었다고 생각하고, 거기에서 멈추는 편이 낫다.
우리가 지혜로운 네트워크를 구축하기 위해서는, (중략) 강력한 자정 장치를 갖춘 제도를 구축하는 힘들고 다소 재미없는 일에 전념해야 한다. (560쪽)
이 문장에도, 이 책 어디에도, 그 방법은 나오지 않는다.
따라서 이 책의 결론을 더 솔직하게 쓴다면 아래와 같을 것이다.
인공지능의 위협에 대처하는 일은 저절로 이루어지지 않는다. 뭔가 열심히 궁리하고, 실행해야 한다.
나머지 공부
이 글로 이 책에 대한 이야기를 끝내려고 했는데,
꼭 생각해봐야 할 문제가 아직도 두 개 남아 있다.
1. 인간의 궁극적인 목적. 공리주의 대 의무론(정언명령).
2. 인공지능 개발을 두 개의 진영(미국 대 중국)으로 나누어 진행할 경우 벌어질 극단적인 갈등 (2차 대전 직전 무역블록화와 유사)
다음 글에서 이들을 간략하게 다루고, 정말 끝내려고 한다.
***계속***
