정보를 만든 인류는 왜 정보에 조종당하는가?
인간 지능을 능가하는 수준의 기계지능이 등장해 정보가 넘쳐나는 세상이다. 지금까지 정보를 만들고 유통하고 이용하는 유일한 주체는 인간이었는데, 변화가 생겨났다. 무어의 법칙을 능가하는 속도로 빠르게 발달하고 있는 생성인공지능은 기계지능이 이미 사람의 능력을 추월했다는 사실을 날마다 알려주고 있다. 기대와 우려가 교차하는 상황이다. 오늘날 우리는 이제껏 인류가 한 번도 직면해보지 않은, 답없는 문제들을 만나게 됐다. “더 많은 정보, 더 강력한 지능기계는 우리의 삶을 어떻게 변화시킬 것인가”라는 질문이다.
인공지능 개발을 옹호하는 사람들은 강력한 인공지능을 활용해 그동안 개인과 사회가 해결하지 못한 난제들을 해결하고 효율성을 극대화할 수 있다는 기대를 펼치고 있다. 그런가 하면 전문가보다 뛰어난 수준의 인공지능은 많은 사람들의 직업을 불안하게 만들고 있다. 또한 인류 전체의 지적 능력을 뛰어넘는 초지능(슈퍼인텔리전스)의 등장이 인류의 실존을 위협할 수 있다는 우려도 있다. 이처럼 인공지능으로 인해 생겨난, 엇갈리고 다양하며 답이 안보이는 문제들의 출발점은 인간에게 ‘정보’는 무엇인가라는 질문과 닿아 있다. 인간과 정보의 관계에 대해, 빅히스토리 연구자이자 거대한 스케일의 스토리텔러인 유발 하라리의 통찰이 제시됐다.
세계적 베스트셀러 ‘사피엔스’ ‘호모 데우스’의 저자인 이스라엘 역사학자 유발 하라리가 2024년 가을 신간 <넥서스>를 펴냈다. 정보의 역사와 속성에 관한 신작이다. ‘석기시대부터 AI까지, 정보네트워크로 보는 인류 역사’라는 부제를 달고 있는 책 제목 <넥서스(Nexus)>는 ‘연결, 관계, 결합’을 뜻한다.
인류는 정보를 축적하는데 뛰어나지만 왜 지혜롭지 못할까?
전작인 ‘사피엔스’가 “수많은 호미닌(초기 인류)중 하나에 불과했던 호모 사피엔스는 어떻게 유일한 생존자가 됐을까?”라는 질문으로 시작하고, ‘호모 데우스’가 “생명을 만들어내는 신의 기술을 지니게 된 인간에게는 어떠한 미래가 펼쳐지게 될까?”라는 질문을 던지듯 <넥서스>에서도 유발 하라리는 거대하고 본질적인 질문을 제기한다.
“왜 인류는 정보와 힘을 축적하는 데 이토록 뛰어나면서 지혜를 얻는 데는 그다지 성공하지 못했을까?”라는 게 <넥서스>의 질문이다.
1933년 히틀러를 선택한 독일 국민들, 현대 정보화 사회에서 허위 조작정보를 믿는 탈진실 현상 등은 더 많은 정보가 더 나은 지혜로 연결되지 않는다는 걸 보여주는 사례다.
현대 문명과 역사의 핵심을 건드리는 이 질문에 답하면서 하라리는 정보의 의미와 속성, 그로 인한 결과에 대한 독특한 해석을 펼쳐간다는 점에서 <넥서스>는 주목할 만하다.
유발 하라리는 ‘통제할 줄 모르는 힘을 함부로 불러내지 말라’고 말한다. 그리스 신화에서 운전할 줄 모르는 태양마차를 몰다가 지구를 불태워버릴 뻔한 파에톤의 이야기, 물길어오게 하는 마법의 빗자루를 멈출 주문을 몰라 물바다로 만들어버리는 괴테 시 ‘마법의 빗자루’가 사례다.
그런데 통제할 줄 모르는 힘을 불러내는 인간의 경향은 개인 심리에서 비롯하는 게 아니라 인류라는 종의 독특한 특성에 내재한 것이라는 게 하라리의 지적이다. 인류는 대규모 협력네트워크를 구축하는 능력으로 막대한 힘을 얻었지만, 바로 그 힘을 얻는 방식 때문에 그 힘을 지혜롭게 사용하기 어렵다는 게 유발 하라리의 통찰이다. 그 구조를 들여다보면 인류의 문제는 네트워크의 문제이고, 좀더 자세히는 정보의 문제이다.
“통제할 줄 모르는 힘을 불러내면 안된다”
<넥서스>에서 하라리는 ‘사피엔스’의 에서 펼친 논지를 이어가면서 확대한다. ‘사피엔스’에서 하라리는 호모 사피엔스가 지구 생태계의 지배자가 된 이유를 다른 종과 비교할 수 없을 정도로 대규모로 정교한 협력을 할 수 있는 능력이라고 제시했다. 대규모 협력을 가능하게 하는 힘은 다름 아닌 ‘허구를 만들어내고, 믿는 힘’이다. 화폐, 신, 종교, 민족, 국가, 도덕, 이데올로기 등 눈에 보이지 않는 개념을 만들어내고 믿을 수 있는, 인류의 독특한 능력을 유발 하라리는 ‘허구를 믿는 힘’이라고 말한다.
<넥서스>에서는 이 주장을 좀 더 미시적으로 파헤친다. 허구와 개념을 구성하는 ‘정보(information)’라는 하위 구성 요소의 속성을 탐구하는 과정이다. 유발 하라리는 오늘날 정보화 세상의 교리가 된 ‘정보는 진실이자, 힘’이라는 주장을 지나치게 순진한 관점이라고 비판한다. 더 많은 정보는 진실을 발견하게 만들고, 진실은 다시 힘과 지혜로 이어질 것이라는 주장은 계몽주의 이후 근대 과학과 사상을 추동해온 동력이다. 오늘날 이러한 정보 낙관주의는 구글, 페이스북 등의 테크 기업의 모토이고 컴퓨터와 인터넷 시대의 지배적인 이데올로기이기도 하다.
유발 하라리는 정보의 역할이 진실을 드러내고 그래서 힘을 만들어내는 것이라는 정보화 사회의 이데올로기를 정보에 대한 순진한 관점이라고 배격하면서, 정보에 대한 새로운 관점을 제시한다.
정보가 하는 일은 진실을 밝혀내는 게 아니다. 정보는 “별개의 것들을 하나로 묶어서 새로운 현실을 만들어내는 것”이라는 주장이다. 정보가 반드시 어떤 것에 대해 무언가를 알릴 필요는 없다. 오히려 정보는 서로 다른 것들을 무엇인가로 묶는 역할을 한다. 즉, 인간에게 정보의 역할은 ‘사회적 연결고리(넥서스)’이다. 하라리는 “정보는 현실을 재현하기도 하고 재현하지 않기도 한다. 하지만 정보는 항상 연결한다. 이것인 정보의 근본적 특징이다”라고 말한다.
정보의 역할은 진실이 아니라, 사람을 연결하는 것
인류 역사에서 정보가 갖는 의미를 설명하면서 하라리는 ‘이야기(스토리텔링)’가 인류가 만든 최초의 정보기술이라고 말한다. 호모 사피엔스는 서로를 개인적으로 몰라도 똑같은 이야기를 알고 있으면, 협력할 수 있는 존재이기 때문에 같은 이야기를 수십억명이 공유할 수 있다. 유발 하라리는 “이야기는 수많은 사람들이 무제한 접속할 수 있는 무제한의 콘센트를 제공하는 중앙연결장치”라고 말한다.
이러한 이야기는 그것을 믿는 집단(네트워크) 안에서 ‘상호주관적 현실(만들어낸 허구)’를 만들어낸다고, 하라리는 주장한다. 법, 신, 화폐 등은 사람들이 그것에 대해 이야기 나누면 존재하는 것이고 서로 말하지 않으면 사라지는, ‘상호주관적 현실’이다. 객관적 현실, 주관적 현실과 달리 ‘상호주관적 현실’은 사람들이 정보를 교환할 때 생겨난다. ‘사피엔스’에서 인류의 특성을 허구를 믿는 존재라고 펼친 주장을, <넥서스>에서는 스토리텔링 애니멀인 인류에게 정보를 이야기와 연결한 것이다.
사람의 생물학적 뇌가 이야기와 정보를 기억하는 한계를 넘어서기 위해 인류는 문서 시스템을 개발했고 복잡하게 구성된 문서 시스템에 의존하게 되었다. 그 결과 문서 시스템의 힘을 다룰 줄 아는 관료층, 지배세력이 권력을 잡게 되었다. 문서 시스템은 이후 TV, 라디오 등 전자기술로 확대되었고, 근래엔 컴퓨터와 인터넷 시스템 개발로 이어졌다.
그런데 컴퓨터의 출현은 정보 네트워크의 기본 구조를 바꾸었다. 문서나 라디오 같은 기술은 단지 네트워크 안의 구성원들을 연결하는 역할을 했고, 인간의 목적과 의도에 따라 작동했다. 그런데 컴퓨터와 알고리즘은 인간 없이도 스스로 작동할 수 있는 자체 네트워크를 만들어낸다. 한 대의 컴퓨터가 가짜뉴스를 생성해 소셜미디어에 게시하고 알고리즘은 이를 유통할 수 있다.
하라리는 그 사례로 2016년 미얀마의 로힝야 학살 사태를 제시한다. 미얀마에서 로힝야 족 학살에는 페이스북이라는 네트워크 기술이 동원됐으며, 2018년 유엔의 사실 조사단은 “페이스북이 증오로 가득한 콘텐츠를 유포함으로써 민족청소 운동에 ‘결정적 역할’을 했다”는 결론을 내렸다.
배경엔 알고리즘이 있다. 페이스북의 알고리즘은 분노가 참여도를 높인다는 사실을 학습했고, 개발자의 명시적 명령이 없었지만 분노 콘텐츠를 추천하기로 결정한 것이다. 하라리는 로힝야 학살에 대해 “비인간 지능이 내린 결정 때문에 일어난 최초의 민족청소 사건”이라고 정의한다.
유발 하라리의 신선한 통찰, 진부한 제언
하라리는 인류가 통제하지 못하는 알고리즘의 문제를 인공지능으로 확대한다. 하라리는 알고리즘의 산물은 인간 개발자의 코드와 경영진의 사업모델 선택 결과일 뿐이라고 보는 견해를 배격한다. 알고리즘은 개발자로부터 독립해 자율적일 수 있다는 게 하라리의 논지다. 하라리는 “알고리즘은 인간 개발자가 프로그래밍하지 않은 것을 스스로 학습할 수 있고 경영진이 예측하지 못한 결정을 내릴 수 있다”고 말한다. 수많은 ‘비인간 주체’들이 세상에 등장해 강력한 영향력을 행사하고 있다는 것이 AI혁명의 본질이라는 주장이다.
정보화 세상에 대한 하라리의 진단은 신선하고 통찰 가득한 관점이지만, 그가 제시하는 대책과 제안은 전혀 파격적이지 않다. 오히려 지극히 원론적이고, 진부할 정도다.
그는 컴퓨터와 알고리즘이 자신의 오류 가능성을 인식하도록 훈련시키는, 즉 ‘메타인지’ 시도를 하나의 안전장치로 제시한다. 소크라테스처럼 ‘나는 모른다’고 말할 수 있는 능력이 인간만이 아니라 컴퓨터에게도 필요하다고 말한다. 추가적으로 하라리는 예측할 수 없는 수많은 문제에 대비하기 위한 최선의 방법은 문제가 발생했을 때 확인해 대응할 수 있는 기관을 만드는 것이라고 말한다. 학계, 언론, 사법체계 등이 인류가 지닌, 진실 검증을 위한 독립적인 자정시스템이다.
※ 이 글은 KISO저널https://journal.kiso.or.kr/ 제57호 <문화시평>에 실린 구본권 한겨레 사람과디지털연구소장의 글(https://journal.kiso.or.kr/?p=12951)을 재인용했습니다.
글 구본권
한겨레 사람과디지털연구소장
발행 KISO저널 제57호
