독서노트: 넥서스3

유발 하라리의 <넥서스> 세 번째 독서 노트!

1부 4챕터, 오류: 무오류성이라는 환상을 읽겠습니다.

"실수하는 것은 인간적이지만 실수를 고치지 않는 것은 악마적이다."

- 성 아우구스티누스

역시나 시작부터 눈길을 확 끄는 문장. 인간 역사의 부조리한 장면들이 절로 떠오르기도 하고, 뭣보다 이 챕터를 단칼에 설명할 수 있는 격언이다.

인간이 대규모 조직을 만들 수 있었던 '정보 네트워크'의 역사에 이어 이번 챕터는 그 정보 네트워크가 오류 가능성이 전혀 없다고 믿게 되었을 때 생길 수 있는 위험성에 대해 살펴본다. 이것은 "나는 우주의 본질을 이해하려고 시도하는 일종의 최대 진리 추구 AI, TRUTH GPT를 시작할 것"이라고 한 일론 머스크의 말이 왜 위험한 것인지를 밝혀내기 위한 것이다. AI 시대 낙관론을 부수기 위한 하라리의 빌드업, 제2라운드. 본인 전공 지식이 들어가다 보니 다소 방대한 경향이 있어서 적당히 스킵하며 읽었음을 밝힙니다;

일론 머스크의 위험한 환상, 그러니까 AI가 결국 무오류성의 진리를 만들 것이라는 야심 찬 생각이 이전 시대에 '종교'계에도 있었다. 유대교, 기독교, 이슬람교, 힌두교 같은 종교들은 초인적인 권위자가 만든 것이기 때문에 오류 가능성이 전혀 없는 것으로 오류를 범할 수 있는 인간이 의심하거나 변경해서는 안 된다고 주장하며 권위를 쌓았다.

그렇다면 오류를 범할 수 있는 인간이 꾸며낸 이야기나 상상(계시라고 주장하는)을 어떻게 신의 진정한 뜻이라고 판단할 수 있을까? 이 문제는 결국 문서인 '책'을 통해 조금은 해결된다. 구전처럼 자꾸 바뀌지 않고 여러 권을 만들면 특정 책이 수정되더라도 확인할 수 있다. 그래서 기원전 1000년기부터 책은 중요한 종교 기술이 되었다. 하지만 문제는 완전히 사라지지 않았다. 결국 그 책을 편찬하는 것은 오류 가능성이 있는 인간이기 때문이다. 그리고 굉장한 시간을 거치다 보니 해석도 분분해졌는데 그 과정에서 그것을 해석하는 엘리트인 랍비의 힘만 커졌다. 여기에 또 재밌는 예시가 등장한다.

20세기에 전기 제품이 개발되었을 때 유대인들은 안식일에 전기로 작동하는 엘리베이터 버튼을 눌러도 되는가 하는 것이다. 정통파 유대교의 대답은 '안 된다'였다. <성경>은 안식일에 일하는 것을 금지하는데, 랍비들은 전기는 불과 비슷하며 오래전부터 불을 붙이는 것은 '일'이었기 때문이라고 한다. 그렇다면 브루클린의 고층 아파트에 사는 유대인 노인들은 100개의 계단을 올라가야 하나? 이 문제를 해결하기 위해 정통파 유대인들은 버튼을 누를 필요없이 끊임없이 건물을 오르내리며 모든 층에 서는 '안식일 엘리베이터'를 발명했다. 그런데 AI 등장으로 반전이 일어났다. 안면인식을 통해 당신이 사는 층으로 순식간에 데려다 줄 수 있어서 더 이상 신성모독을 저지를 필요가 없어진 것이다(부유층에만 해당되는 얘기겠지만)!

해석의 문제가 중요해지면서 거룩한 책과 교회 사이의 힘의 균형이 점점 교회로 기울어졌고 이 속에서도 해석하는 권한을 두고 갈등을 겪으며 분열했다. 권력이 커지면 그 권력을 어떻게든 유지하려는 것이 인간의 습성. 가톨릭교회는 교회의 권력과 부를 이용해 모든 반대 의견을 잘못으로 억압하고 아무도 교회의 견해에 의문을 제기하지 못하게 하는 기관으로 변해갔다.

그리고 인쇄술의 발명. (교회 외) 모든 비주류가 자신의 저술을 널리 전파할 수 있게 되었다. 또 여기서도 하라리는 이 기술 자체를 현재의 문제와 빗대어 꼬집는다. 인쇄술을 과학과 연관 지어 단순히 더 많은 정보를 생산하여 퍼뜨리기만 하면 사람들을 진실로 이끌 수 있다고 가정하는 건 오산이라고!

사실 인쇄술은 가짜뉴스, 음모론을 빠르게 확산시키는 데 공이 컸다. 유튜브가 그러하듯! 가장 악명 높은 사례가 바로 '마녀사냥'이다. 도화선이 된 것은 정신병자인 종교재판관 크라머의 책이었다. 여성혐오와 성적 집착 등으로 얼룩진 그 말도 안 되는 책은 인간 심연의 두려움을 건드려 되려 베스트셀러가 되었고 마녀사냥꾼들을 양산시켰다. 이의를 재기하는 이들은 맞다고 할 때까지 지독한 고문을 당했고 이상한 이야기가 외려 새로운 현실을 창조해나갔다. 마녀사냥을 주도하는 관료 조직이 생겼고 마녀사냥꾼은 정부에게 서비스를 제공하는 직업이 되었다. 이들 관료 조직이 점점 많은 정보를 생산함에 따라 이 새로운 상호주관적 현실은 너무도 설득력이 있어서 마녀로 고발당한 사람 일부는 자신이 실제로 사탄의 음모에 가담했다고 믿게 되었다고 한다. 사탄과 결탁한 마녀들을 없애겠다고 혈안이 된 인간들이 사탄의 모습을 하고 있는 정말 다시 생각해도 미친 시절인데 디테일한 상황까지 묘사하고 있어서 더더욱 읽기가 힘들었다.

"근대 초 유럽을 휩쓴 마녀 광풍의 역사는 정보 흐름의 장벽을 없앤다고 해서 진실된 정보가 확산된다는 보장은 없다는 것을 보여준다. 거짓과 환상이 확산되어 유해한 정보 생태계가 만들어지기도 그만큼이나 더 쉽다. 더 구체적으로 말하면, 아이디어의 완전한 자유 시장은 진실을 희생시키고 분노와 선정주의의 확산을 부추길 수 있다."

최근 계속 문제가 되어온 가짜뉴스들과 그것을 진실로 믿는 사람이 늘어나는 모습, 여러 가지 눈을 의심케 한 사건들이 아른거린다.

그렇다면 무엇이 필요한가? 역시 '자정 장치'다. 진실이 승리하려면 균형추를 '팩트'쪽으로 기울일 수 있는 힘을 가진 큐레이션 기관을 설치해야 한다. 그런 기관이 종교에는 없었지만 과학계에는 있었다. 프랑스 과학 아카데미 같은 곳이다. 교회가 절대 진리가 담긴 무오류의 거룩한 책을 내세우며 사람들에게 교회를 믿으라고 말할 때 이 과학 기관들은 오류를 찾아내 고치는 강력한 자정 장치로 권위를 얻었다.

"과학이라는 사업은 무오류성이라는 환상을 버리고 오류를 불가피한 것으로 받아들이는 정보 네트워크를 구축하는 데서 시작한다."

각기 의학계의 바이블이라고 불리는 책들은 '바이블'과는 달리 정기적으로 개정되고, 과학 기관에서는 기존의 오류를 찾아내 스승이나 선배들이 몰랐던 무언가를 찾아내야 논문을 발표할 수 있고 승진할 수 있다. 그래서 과학계는 지금껏 눈부시게 발전할 수 있었다.

다음 챕터는 정치 영역에서의 '자정 장치'의 기능을 살펴보는데 이것은 곧 민주주의 본질과 연관된 이야기가 될 것 같다. 눈이 침침하다.