지혜로운 네트워크 : 사실과 진실

한 마리의 비둘기가 오른쪽을 바라보고 있습니다.

언제부터 비둘기는 평화를 상징하거나 희망적인 소식을 전하는 전령이 되었을까요?

유발 하라리는, “거짓말을 한 번 하면 그것은 거짓말로 남는다. 하지만 거짓말을 천 번 반복하면 그것은 진실이 된다”라고 말한 나치 괴벨스의 말을 통해 거짓말, 가짜 뉴스, 음모론 등이 계속 반복되면 사람들은 결국 믿게 된다고 전합니다. 그는 진실이 가진 세 가지 약점 중 하나는 거짓이나 가짜 뉴스는 매우 저렴하지만 진실은 비용이 많이 든다고 합니다. 또 하나, 사람들은 복잡한 이야기를 좋아하지 않는데 진실은 대체로 복잡하다고 하네요. 그리고 마지막 진실은 때때로 불쾌하고 고통스럽기도 하다고 전합니다.

그는 “역사의 진정한 주인공은 정보”라면서 정보란 “서로 다른 지점을 연결해 주는 것”이라고 정의합니다. 인류의 역사는 ‘정보 네트워크(넥서스)’를 어떻게 구축하고 통제해왔는가의 역사이며, 오늘날 인공지능의 등장은 그 네트워크의 권력 구조를 근본적으로 재편할 중대한 전환점이라는 주장을 담고 있는 유발 하라리의 <넥서스>.

그는 <넥서스>에서 “인간이 힘을 남용하는 원인은 개인 심리에 있지 않다. 인간은 탐욕스럽고 교만하고 잔인하지만, 동시에 사랑, 연민, 겸손, 기쁨도 느낄 수 있다. 물론 최악의 구성원들 사이에서는 탐욕과 잔혹함이 가장 중요한 덕목이라서 악의를 품은 행위자들은 권력을 남용할 마음을 쉽게 먹는다.

그렇다면 왜 인간 사회는 최악의 구성원에게 권력을 맡기는 선택을 할까?”라고 묻습니다.

“이야기는 가짜 기억을 심고 허구적 관계를 형성하고 상호주관적 현실을 창조하는 것을 통해 대규모 인간 네트워크를 짰다. 이런 네트워크들은 세상의 힘의 균형을 완전히 바꿔놓았다.”라는 문장에서 문득 미국의 심리학자 엘리자베스 로프터스(Elizabeth Loftus, 1944~ )의 가짜 기억에 대한 연구가 생각났습니다.

엘리자베스 로프터스는 실험을 통해 우리가 얼마나 쉽게 ‘없던 기억’을 갖게 되는지를 보여주었습니다. 쇼핑몰에서 길을 잃은 적이 없던 사람도, 반복된 암시와 이야기 속에서 결국 “아, 맞다. 울고 있었지…”라고 말하게 되었지요. 그녀는 거짓 기억, 조작될 수 있는 기억에 대해 연구하고, 기억은 조작될 수 있다고 주장합니다.

엘리자베스 로프터스와 유발 하라리, 두 사람의 이야기를 나란히 놓고 보면 묘한 긴장감이 생깁니다. 우리는 이야기를 통해 문명을 만들었고, 동시에 이야기에 속아 넘어가는 존재이기도 합니다. 인간의 뇌는 사실을 저장하는 USB가 아니라, 이야기를 재구성하는 소설가에 가깝습니다. 기억은 녹화 파일이 아니라 매번 다시 쓰이는 초고(草稿)인 것이기도 하지요.

로프터스의 연구가 충격적인 이유는 단순합니다.
“내 기억이니까 맞겠지”라는 우리의 마지막 보루를 무너뜨리기 때문입니다.

우리의 뇌는 복잡한 통계보다 부정적 감정이 섞인 이야기 한 편을 더 잘 기억합니다.
왜냐하면 뇌는 진실보다 생존을 우선시하도록 진화했기 때문이지요.
분노와 공포는 생존 신호였고, 그래서 강렬한 감정이 붙은 정보는 자동으로 ‘중요함’ 도장을 받게 됩니다.

문제는 현대 사회에서 그 감정 버튼을 누르는 기술이 너무 정교해졌다는 것입니다.

“내가 틀릴 수 있다”는 태도는 지적 겸손(intellectual humility)의 시작이라고 생각합니다.

이 겸손은 나를 약하게 만들지 않습니다. 오히려 업데이트 가능한 인간으로 만듭니다.
운영체제가 자동 업데이트를 거부하면 바이러스에 취약해지듯이.

무수히 양산되는 정보 속에서 가짜 뉴스와 의도를 담고 있는 오정보를 어떻게 분간해 낼 수 있을까요?

저자는

“우리가 지혜로운 네트워크를 구축하기 위해서는, 정보에 대한 순진한 관점과 포퓰리즘적 관점을 모두 버리고, 무오류성이라는 환상에서 벗어나 강력한 자정 장치를 갖춘 제도를 구축하는 힘들고 다소 재미없는 일에 전념해야 한다.”라고 정리하지만........

세계가 다시 요동치고 있습니다.

그 전쟁에 인공지능이 상당한 역할을 하고 있고요.

두렵습니다.

책을 읽으면서 AI가 민주주의를 위협할지, 정보가 많아질수록 사회는 더 현명해질지, 이 AI 시대의 권력은 누가 가지게 될지 두렵고 불안합니다.

우리는 강력한 자정 장치를 갖춘 제도를 구축할 수 있을까요?