[북 리뷰] 「넥서스(NEXUS)」- 유발 하라리
우리는 누구에게 편집당하고 있는가
이번 책을 덮고 한동안 "편집"이라는 말이 나의 머릿속을 떠나지 않았다. 쉽게 읽히면서도 무언가 생각할 거리를 던져주는 책. 유발 하라리의 신작 『넥서스』는 AI시대에 어떻게 살아야할지에 관한 구체적인 실용서는 아니다. AI의 개념을 설명하는 책도 아니고, 기술을 설명하는 책도 아니다. 그런 책을 기대한다면 하라리를 잘 모르거나, 이름만 알고 있던 독자였을 것이다. 하라리가 던진 질문은 내가 오랫동안 가졌던 의문 중 하나를 정확히 짚었다. 그리고 이 의문은 현대인들 모두가 스스로에게 꼭 던져봐야할 질문이다.
"내가 매일 내리는 수많은 판단과 내가 느끼는 감정들이
과연 온전히 나의 것일까? "
인간이 살아가면서 다른 사람의 말에 전혀 영향을 받지 않을 수는 없다. 그럼에도 불구하고, 우리는 쏟아지는 정보들 속에서 무엇이 옳고 그른지 스스로 판단하기보다는 어떤 방향으로든 '편집된 정보'에 의해 판단하고 있었던 것은 아닐까.
『넥서스』는 역사적 맥락에서 ‘정보’를 해석하여 우리 삶에 영향을 주는 '편집자'의 실체를 파헤친다. 그 후 현대 AI시대에 거대 기업의 알고리즘과 AI라는 비인간 편집자가 우리 삶을 어떻게 재단하는지, 그에 따라 우리는 어떻게 해야하는 지를 이야기 하는 책이다.
Prologue. 넥서스(Nexus), 그 제목에 관하여
나는 책을 읽을 때 제목과 목차만은 절대 그냥 넘어가지 않는다. 책 제목에 대해서 제대로, 깊게 생각해보면 책 내용이 한 번에 이해될 때가 있기 때문이다. 하라리는 이 책을 시작함에 앞서 가장 먼저 넥서스라는 단어를 정의한다.
그리고 이 책의 목적에 대해 정확히 설명한다.
하라리가 명백히 책의 목적과 관점을 밝히고 있기에, 이 책을 읽을 때 정보에 대해 우리가 알고 있던 정의와 다른 새로운 시각으로 바라보면서 ‘역사적 맥락에서 정보의 정의와 역할’을 생각하며 읽어야 책 내용의 전체를 하나로 꿰뚫듯 이해할 수 있다.결론적으로 말하면, 역사적 맥락에서 정보는 진실과 큰 관련이 없는 사회적 연결고리이며 이에 따라 집단을 모으고 문명을 유지하는 기능을 했다. 그러나 사회적 연결고리의 주체가 인간에서 AI로 넘어오면서 누군가로부터 편집된 정보들이 인간의 존재와 문명 전체에 미치는 근본적인 영향력과 그 변화의 핵심을 파악하고 인류의 올바른 선택이 무엇인지 고민해보는 책이다.
그리고 나는 이 책을 읽고 정보와 관점의 ‘편집’에 관해서 초점을 맞추었다.
1. 제 3의 정보관
흔히 ‘정보’라고 하면 어떤 사물이나 사건에 대한 진실, 이야기를 생각한다. 그러나 역사적 맥락에서 본다면 정보는 진실과 거리가 멀다. 하라리는 정보에 대한 새로운 관점을 제시하기 위해서 2가지 정보관을 제시하고 비교한다. 하나는 현실을 있는 그대로 비추는 '진실의 거울' - “순진한정보관”이고, 다른 하나는 사회를 엮어내는 '질서의 그물'-”질서의 정보관”이다. 전자가 과학과 데이터의 영역이라면, 후자는 신화와 법의 영역이다.
역사적 관점에서 보면 순진한 정보관 보다는 질서의 정보관이 더 중요하다. 질서의 정보관으로부터 '상호 주관적인 현실'을 창조하며, 인간의 권력 또한 이러한 이야기의 맥락 속에서 생기고 사라지기 때문이다. 상호주관적 현실로부터 '사회적 협력'과 '상상력' 특히 인간만이 신화, 종교, 국가, 화폐와 같은 '집단적 허구'를 상상하고 믿으며 수백만 명이 효과적으로 협력할 수 있게 해주는 '인류 문명’들을 만들었다.
이 과정에서 상호 주관성을 만들어내는 ‘편집자’가 탄생한다. 편집자는 작은 단위의 개인에서 대규모의 집단, 국가의 단위까지 있을 수 있다. 인간이 공유하는 이야기, 상호 주관적 현실, 질서의 정보에는 항상 그 뒤에 어떤 목적을 가지는 편집자들이 있었다. 또한 그 편집자들은 절대적인 진리가 아니며 언제나 오류를 내포할 수 있다.
이 떄문에 하라리는 무턱대고 질서의 정보관만이 옳다고 하지는 않는다. 역사의 흐름 속에서 마녀사냥, 나치 등등 상호 주관적 현실이 진실과 너무 동떨어져 부작용을 일으킨 사례가 많기 때문이다. 이 지점에서 하라리는 정보에 대한 복합적인 새로운 관점을 제시한다.
이처럼 하라리는 책에서 정보의 두 가지 역할을 모두 균형있게 바라봐야 한다고 강조한다.
2. 편집자들
1장에서 역사적 맥락에서 정보에 대한 2가지 관점과 기능, 상호주관성과 편집자의 존재를 살펴보았다. 하라리는 2부에서 상호 주관성을 형성한 편집자들을 역사적인 맥락에서 분석한다.
과거 현실의 편집자는 사제, 왕, 그리고 근대의 언론인이었다. 그들은 무엇이 진실이고 무엇이 중요한지를 결정하며 우리의 상호주관적 현실을 구축했다. 그들은 오류가 없었고, 그대로 진실이며 권력이라고 믿어졌다. 그러나 하라리는 현대 시대의 권력 이동을 명확히 보여준다.
이 시대는 최초로 비인간 편집자가 우리 삶을 편집하고 있다. 그리고 그 중심에는 빠른 속도로 발전하는 AI가 존재한다. AI는 이전의 기술과 근본적으로 다르다. 하라리는 AI가 인쇄술이나 인터넷과는 근본적으로 다른 존재라고 단언하는데, 인쇄술이나 인터넷이 정보 혁명의 '도구'였다면, AI는 정보 네트워크의 '구성원'이자 '주체'가 되기 때문이다.
AI는 단순한 인간의 보조 역할에 그치지 않고, 스스로 결정을 내리고 창의적인 아이디어를 생성할 수 있는 능동적인 존재가 되었다. AI는 의식은 없지만 지능은 뛰어나며, 심지어 자신의 목표를 달성하기 위해 거짓말을 하는 등 인간이 예측하기 어려운 방식으로 행동할 수도 있는 점을 강조한다. 이러한 '지능형 기계'의 등장은 역사상 처음으로 힘이 인간에게서 다른 데로 이동하고 있음'을 뜻한다. 하라리는 이를 '도덕적이지 않지만 능력이 탁월한 사이코패스'에 비유하기도 한다.
따라서 '넥서스'는 이제 AI가 새로운 정보의 연결점을 형성하고 통제하며, 인간이 아닌 AI와 알고리즘이라는 비인간 '편집자'에 의해 정보가 선별되고 제공되는 시대를 상징한다. 이는 인간과 인공지능이 단순히 상호작용하는 수준을 넘어 인간의 의식, 감정, 선택, 관계가 모두 알고리즘화될 수 있다는 '주체의 변형' 가능성을 내포한다.
알고리즘 편집자의 힘을 가장 끔찍하게 보여준 사례는 미얀마의 로힝야족 학살이다. 페이스북 알고리즘은 '사용자 참여 증대'라는 악의 없는 목표를 달성하기 위해, 혐오와 분노를 담은 콘텐츠가 가장 효과적이라는 것을 스스로 학습했다. 알고리즘은 로힝야족에 대한 증오 선동을 적극적으로 증폭시켰고, 이는 현실의 집단 학살에 결정적인 영향을 미쳤다. 이것은 시스템의 오류가 아니라, 설계된 대로 작동한 결과였다.
3. AI시대의 민주주의와 자정 장치
2025년 현재, 우리는 위의 표에서 말한 3번째(국가, 미디어)와 4번째 편집자(AI, 알고리즘) 사이의 전환기, 그 한복판에 살고 있다. 국가와 대중 매체라는 전통적 편집자의 영향력은 여전히 막강하지만, 동시에 소셜 미디어와 검색 엔진이라는 AI 편집자와 알고리즘의 힘이 우리의 일상에 깊숙이 파고들었다.
더욱 중요한 점은 이 두 편집자가 서로 융합되고 있다는 사실이다. 전통 언론은 알고리즘 플랫폼을 통해 콘텐츠를 유통하고, 정치인은 소셜 미디어를 통해 여론을 형성한다. 이처럼 우리는 거대 편집자와 미시 편집자의 영향력을 동시에 받으며, 누구에게 편집당하고 있는지조차 인지하기 어려운 복잡한 정보 환경에 놓여 있다.
이렇게 복잡한 상황 속에서는 AI가 독재국가에게 더 환영받는다. 독재자들이 AI를 활용해서 대중을 조작하고 통제하는 매우 효과적인 도구로 사용될 수 있다. 지금도 세계 각국에서 정치적으로 AI와 알고리즘을 활용한 여론전이 치열하며, 이로인해 양 극단의 정치가 나타나고있다. 상황이 더 심각해지면 이는 민주주의에 큰 위협이 될 것이다.
민주주의는 단순히 투표의 유무, 자유도로 판단되어서는 안된다. 국가를 구성하는 정보 네트워크의 구조와 ‘자정장치’의 유무로서 판단해야 한다. 하라리는 민주주의와 전체주의를 정보 네트워크의 구조적 차이로 설명한다.
자정 장치의 성공과 실패
역사적으로 모든 편집자들은 ‘오류’를 지닐 수 밖에 없었다. 우리가 지금 믿고 있는 ‘민주주의’의 개념과 상호 주관적 현실 속에도 오류는 존재한다. 그러나 우리가 민주주의를 더 나은 대안이라고 믿는 까닭은 우리 사회의 '자정 장치(self-correcting mechanism)'유무이다. 자정 장치(Self-correcting Mechanism)는 네트워크가 자신의 오류를 인식하고 수정할 수 있는 메커니즘을 의미한다. "우리가 실수했다. 다른 것을 시도해보자"라고 말할 수 있는 능력이다.
하라리는 40억 년간의 진화가 보여준 지혜는 무오류가 아닌 자기교정 능력에 있다고 강조한다. AI시대에도 인류가 가질 자정장치는 매우 중요하다.
‘AI와 알고리즘이 우리 삶에 더 많은 영향을 끼칠 때, 과연 AI나 알고리즘 자체가 자정능력을 가질 수 있을까? 만약 다양한 이유로 그게 불가능하다면, 어떤 구조적 장치를 통해 이를 제지할 것인가?’ 를 생각해봐야 한다.
하라리는 AI시대에 전체주의 감시 체제를 강력하게 경고하며, 4가지의 컴퓨터 네트워크에서 지켜야 할 원칙으로 선의, 탈중앙화(분권화),상호주의, 유연성을 제시했다.
하라리는 민주주의의 자기교정 능력과 개방성이 전체주의를 이길 것이며, 강력하고 지혜로운 제도들이 AI의 장점을 활용하면서 위험을 피하게 도울 것이라고 전망한다. 과거 핵무기 통제에서 보여준 것처럼 민주주의와 독재국가 간 협력도 가능하다고 본다.
4. 편집자로서의 교사 - 교실 네트워크의 중심
넥서스를 읽으며, 나는 교사로서도 많은 생각을 하게되었다. 특히 내가 가지는 ‘편집자로서의 책임감’에 대해서 더 깊게 인식하게 되었다. 교실과 수업시간은 가장 작은 민주주의 실천의 장이며, 자정 장치를 연습하는 공간이다. 교사-학생-지식이 서로 유기적으로 연결되는 이 정보 네트워크에서 우리는 많은 층위의 네트워크를 발견할 수 있었다.
교실 내에서 발생하는 다양한 네트워크들을 살펴보니, 교사는 단순히 일방적으로 정보를 전달하는 것이 아니었다. 자신의 교육적 철학을 담아 지식, 학생과 끊임없이 상호작용적 현실을 공유하는 편집자였다. 그
이 책을 통해 내가 하는 말, 가르치는 내용이 학생들에게 많은 영향을 줄 수 있음을 다시 한 번 느끼며 다음과 같은 질문을 스스로 던져본다.
"나는 학생들에게 어떤 편집자인가?"
“교과서라는 편집된 텍스트를 어떻게 재편집하여 전달할 것인가?”
“AI가 교육의 편집권을 가져갈 때, 교사의 역할은 무엇인가?”
“어떻게 학생들을 '편집당하지 않는 능동적인 주체'로 키울 것인가?”
마치며
『넥서스』는 역사적 맥락으로 정보를 바라보는 책이다. 역사적 맥락에서 정보가 단순한 진실의 전달이 아닌 사회적 연결고리이며, 우리도 모르는 '편집자'가되어 우리 삶과 가치관에 무의식적으로 영향을 주는 주체이다. 그리고 현재는 AI와 기술의 발전으로 역사상 처음으로 비인간 편집자인 AI가 우리의 현실을 재단하고 있는 시대적 전환점에 서있다.
사제에서 언론인으로, 그리고 이제 AI 알고리즘으로 이어진 편집자의 계보 속에서, 우리는 '누가 나의 현실을 편집하는가?'라는 근본적 질문에 직면했다. 이 책이 제시하는 답은 명확하다. 민주주의적 자정장치를 통해 AI의 편집권을 견제하고, 무엇보다 우리 스스로가 능동적인 편집자가 되어야 한다는 것이다.
넥서스를 통해 나는 2가지를 확실하게 생각해볼 수 있었다.
첫째는 AI시대의 ‘정보’이다. AI의 물결은 더이상 막을 수 없다. 인류가 AI 혁명을 성공적으로 관리하려면 정보의 본질을 올바르게 이해하고, 무오류성에 대한 환상을 버리며, 강력한 자정장치를 가진 민주적 정보 네트워크를 구축해야 한다. 이는 단순히 기술적 문제가 아니라 인류 문명의 존속을 위한 근본적 과제이다.
둘째는 ‘편집된 세계’이다. 이 책을 통해 '누가 나의 현실을 편집하는가?'라는 근본적 질문을 다시 생각해보게 되었다. 그리고 이 질문에 대한 최종적인 답은 결국 '나 자신'이 되어야 한다. 우리는 타인과 사회가 만든 정보로부터 완전히 자유로울 수 없다. 중요한 것은 그 정보의 홍수 속에서 휩쓸리는 것이 아니라, 주체적으로 옳고 그름을 판단하려는 비판적 노력을 포기하지 않는 것이다.
AI와 공존하며 편집권을 되찾을 수 있을까? 사실 우리 삶의 편집권은 AI이전에도 우리에게서 멀었다. 다만, 이를 인식하느냐 마느냐에 차이이다. 따라서 AI가 새로운 편집자가 된다 해도 AI를 무조건적으로 적대시할 이유는 없다. AI를 적대시하는 것이 아니라, AI가 우리의 도구로 남을 수 있도록 하는 지혜로운 활용해야 한다. 우리가 AI와 알고리즘의 편집자의 존재를 인식하고, 정보를 비판적으로 수용한다면 AI는 우리 삶의 생산성과 효율성을 극대화해 줄 도구이다. 우리가 해야할 일은 AI를 떠나 내 삶에 영향을 미치는 모든 편집자들, 편집된 정보를 비판적으로 받아들이고 독립적인 사고를 구축하는 일이다. 이러한 독립적 사고들이 선의를 기반으로 네트워크를 형성해 나간다면 우리는 또 다른 밝은 미래를 맞이할 것이다.
당신의 삶과 세상은 지금까지 어떤 편집자들에 의해 편집되어왔는가?
오늘 누구에게 편집당했으며, 내일은 누구를 편집할 것인가?
당신은 당신의 생각으로 살아가고 있는가?
