달콤한 허구, 불편한 진실
책 '넥서스'를 읽고
유발 하라리의 전작 '사피엔스'를 읽어본 사람이라면 우리가 이런 근사한 문명을 누릴 수 있게 된 게 '이야기(허구)를 통한 대규모 협력' 덕분이라는 서사에 기억날 것이다.
새 책에서 저자는 '정보(이야기)가 인간 네트워크(대규모 협력)를 어떻게 구축하는지, 그리고 정보를 관리하고 활용하는 방식에 따라 어떤 문제가 발생하는지' 탐구한다.
'넥서스'는 네트워크에서 여러 노드(사람, 장치, 시스템 등)가 연결되는 중심 연결점을 뜻하는데, 정보는 네트워크를 하나로 결속시키는 가장 중요한 접착제(넥서스) 역할을 한다.
인류 문명은 이 정보가 점점 더 멀리 퍼져나가는 방향으로 발전해 왔다. 이야기, 책, 인쇄술, 인터넷, AI까지. 그런데 문제는 정보=진실이 아니라는 데 있다. 이 책은 분노와 감정을 조장하는 가짜 정보가 자유로운 정보 시장에서 우위를 점할 수 있음을 지적하며, 이를 막기 위한 큐레이션 기관의 필요성을 언급한다. 그러나 이러한 기관 역시 권력을 남용할 가능성이 있어, '진실과 (허구를 이용한) 질서 간의 균형'을 맞추는 건 역사적으로 늘 어려운 과제였음을 지적한다.
극단적인 진실 추구는 무정부주의를 의미한다. 그럼 극단적으로 질서를 유지하는 체제는? 나치즘과 스탈린주의 같은 전체주의 세계이다. 정보 네트워크를 중앙집중화하면서 강력한 힘을 발휘하지만, 진실은 살포시 묻어두고 가는 시스템 말이다.
그럼 민주주의는 어떨까?
민주주의는 정보를 여러 독립적인 채널로 분산시키고, 강력한 자정 장치를 통해 균형을 유지하려 한다. 그러나 민주주의조차 선거가 진실을 발견하는 것이 아니라 다수의 욕망을 확인하는 절차라는 점에서, 진실 추구와는 거리가 멀 수 있음을 저자는 강조한다. 포퓰리즘은 민주주의의 원대한 목표와는 거리가 멀다는 것이다.
더 큰 문제는 여기에 '초강력본드' AI가 등장했다는 것이다. 하라리는 AI를 비롯한 현대 기술이 기존의 인간 발명품들과는 본질적으로 다르다고 말한다. 이전의 도구들은 인간의 지시를 따랐지만, AI는 스스로 결정을 내리고 새로운 아이디어를 창출할 수 있는 최초의 기술로, 더 이상 단순한 도구가 아닌 '행위자'이다. 정보 과잉의 시대에 사람들이 점점 더 음모론과 단순한 구원자를 찾게 되고, AI는 입맛에 딱 맞는 정보를 제공하여 사람들의 감정과 행동을 조종할 수 있다.
저자의 경고는 우리가 기술과 어떻게 공존할지를 고민해야 하는 중요한 이유가 된다. 결국 하라리는 우리가 기술과 권력, 그리고 정보의 복잡한 상호작용 속에서 '진실을 중심으로 의사결정을 내릴 때만이 더 나은 미래를 설계할 수 있음'을 강조해서 말하고 있다.
허구는 진실에 비해 간단하고 듣기 좋은 반면, 진실은 복잡하고 고통스럽다는 점에서 AI를 상대해야 하는 인류에게 불리한 싸움이다.
