[리뷰] 페이크와 팩트_데이비드 로버트 그라임스

왜 우리는 허위정보, 음모론, 프로파간다에 빠지는가

Dec 28. 2024

[리뷰] 데이비드 로버트 그라임스 著/김보은 譯. 페이크와 팩트. 디플롯. 2024년.

비합리적인 유인원: 왜 우리는 허위정보, 음모론, 프로파간다에 빠지는가

원서는 2020년 사이먼 앤드 슈스터(Simon & Schuster UK)에서 『The Irrational Ape: Why We Fall for Disinformation, Conspiracy Theory and Propaganda』이라는 제목으로 출판되었습니다.

언제나처럼 번역서명은 시류에 따라 팔릴 것 같은 제목으로 바뀌어버렸습니다. 탈진실(post-truth)의 시대에, 왜 우리는 호모 사피엔스답게 합리적으로 생각하지 못하고, 유인원마냥 비이성적으로 행동하는지를 다룬 책입니다. 그래서 원서명은 본문을 내용을 아주 충실하게 드러냅니다. 서두에서 저자가 밝힌 집필 목적과도 맞아떨어집니다.

나는 인간이 실수를 저지르는 주요 원인을 밝히고, 분석적 사고와 과학적 방법을 활용해서 우리의 삶뿐 아니라 세상을 개선할 방법을 탐색하려고 이 책을 집필했다.- 36쪽

원서 표지에 ‘핵버튼’을 누르려는 유인원의 손가락이 나오는데요, 프롤로그의 두 사례를 살펴보면 모골이 송연해지면서 표지 일러스트레이션의 적절함에 무릎을 치게 됩니다. 세르푸코프-15 벙커 총책임자 스타니슬라프 페트로프 Stanislav Petrov와 B-59호 함대장 바실리 아르키포프 Vasili Arkhipov의 합리적 사고가 인류의 핵전쟁을 막을 수 있었다는 설명이 결코 과한 것 같진 않습니다.

대니얼 사이먼과 크리스토퍼 차브리스의 책, 『당신이 속는 이유』를 읽고 난 뒤 얼마되지 않은 시점에서 이 책을 처음 만났습니다. 번역서명만으로는 가짜뉴스를 다루는 언론학 관련 서적이 아닐까 짐작했었는데요, 막상 목차를 살펴보니 사이먼과 차브리스의 책과 비슷할 것 같더군요. 그래서 내처 읽어보자는 마음에 책을 펼쳐 들었습니다.

이 책은 6부 22장으로 구성되어 있는데요, 각 부에서 어떤 내용을 다루고 있는지를 좀 살펴보도록 하겠습니다. 아울러, 각 장의 시작은 몹시 적절한 인용문으로 시작합니다. 저란 속물(snob)은 원문을 찾아 잰 체하길 좋아해서, 이번에도 굳이 영문으로 대체해 봅니다.

1부 논리가 부재하는 세상

He, who will not reason, is a bigot; he, who cannot, is a fool; and he, who dares not, is a slave.
-William Drummond of Logiealmond

1부에서는 우리가 흔히 빠지게 되는 형식적 오류에 대해 고민해 봅니다.

논리 구조에 본질적인 결함이 있다면 이것은 추론 오류의 하나인 형식적 오류(formal fallacy)다. 이 오류를 완벽하게 수정하려면 추상 수학을 깊이 탐구해야 하지만, 우리는 그저 몇 가지 필수 개념만 명심하면 된다. 주장이 온전해지려면 ⓐ타당한 구조와 ⓑ정확한 전제가 필요하다. - 47쪽

따라서 저자는 음모론의 구조는 대체로 형시적 오류에서부터 시작한다고 말합니다. “음모론의 약점은 거짓을 이야기에 끼워 넣을 때 후건 긍정의 오류를 보편적인 데우스 엑스 마키나(deus ex machina)로 활용한다는 것”이라고 지적하면서, “이런 논리적 왜곡은 자신들의 주장을 뒷받침할 증거의 명백한 부재를 거꾸로 뒷받침하는 논거로 괴이하게 비틀어버린다”라고 설명합니다. 특히나 음모론자들이 사람을 환장하게 만드는 부분이 “훌륭하고 공정한 기관과 조사관이 그들의 주장을 계속 파훼해도 아랑곳하지 않고 똑같은 잘못된 논리를 활용해서 증거를 무시할 것”이란 점을 지적합니다. 한국 사회를 크게 뒤흔들었던 타진요 사건이나, 김어준의 부정선거 음모론 그리고 대한민국의 민주주의 크게 후퇴시킨 윤석열 내란 일당의 부정선거 음모론들에서 공통적으로 드러나는 현상이라 숨이 턱 막힐 정도로 답답함을 느끼게 합니다.

무엇보다 귀류법(歸謬法, proof by contradiction)이라는 논리적 증명으로 음모론의 문제점은 쉽게 반박될 수 있지만, ‘인간의 어리석음은 끝이 없고 같은 실수를 반복하기 마련입니다.

인간은 먼저 감정을 숨김없이 쏟아낸 뒤, 이성을 활용해서 처음 느낀 감정에 대한 정당성을 파악한다. 모순을 수용해서 생각을 개선하기보다는 격분한 피타고라스학파처럼 편안한 이상을 뒤집는 것은 무엇이든 짓밟으려 한다. 슬프게도 현실의 인간은 사색하기보다는 행동하는 존재이며, 이는 인류 전체의 손실이다. - 82쪽

이렇게 음모론에 빠지는 이유는 통제 욕구와 관계가 있는데, “불확실한 세상을 통제한다는 환상은 안도감을 주며, 억압받는 치료제가 존재한다고 믿으면 특별한 지식으로 ‘보호받는다고’ 생각”하기 때문이라고 설명합니다.

2부 진실은 단순하지 않다

The truth is rarely pure and never simple.
Oscar Wilde

2부에서는 비형식적 오류에 대해 고민해 봅니다.

권위에 의한 논증 argument from authority, 가용성 휴리스틱 availability heuristic, 근본귀인오류 fundamental attribution error, 허수아비 논증 strawman argument, 미끼와 바꿔치기 전략 Bait-and-Switch Strategy의 사례를 들며 왜 우리가 실수를 하는지에 대해 설명합니다.

보편적인 원인을 찾으려는 욕망은 당연한 것이다. 우리는 단순한 이야기, 원인과 결과가 명확한 이야기를 좋아한다. 그러나 복잡한 현실에서는 이는 규칙보다는 예외가 되기 쉽다. 어쩌면 멋대로 흘러가는 삶을 포괄적으로 이해하기 쉽게 도와주는 이야기를 갈망한 나머지 단일 원인의 오류가 매력적으로 보일 수도 있지만, 대개는 완전히 잘못되었거나 지나치게 환원적이라 쓸모가 없다. - 114쪽

3부 마음의 조작

Our own faults are those we are the first to detect, and the last to forgive, in others.
Letitia Elizabeth Landon

3부에서는 인간 내부에서 이루어지는 왜곡에 대해서 살펴봅니다.

동기화된 논증 motivated reasoning, 인지부조화 cognitive dissonance, 정체성 보호 인지 identity-protcetive cognition, 우월감 환상 illusory superiority의 사례들을 설명하는데요, 인간은 인지과정에서부터 왜곡이 시작되어, 그 인지 사항을 기억함에 있어서도 끊임없이 왜곡이 일어난다는 점을 통열하게 지적합니다.

인간은 정보를 이치에 맞도록 배열해서 저장한다. 여기서 적용되는 기억의 틀은 개인의 경험, 문화적 훈련, 심지어 편견에 따라 형성된다. 잠재의식 속에서 이런 요인에 맞춰 사건과 사건이 일어난 순서에 관한 기억을 변형하며, 이는 차례로 우리의 인식을 비튼다. 너무나 매끄럽게 이어지므로 우리는 이 과정이 일어나는지도 모른다. - 212쪽

저자는 “우리의 모든 기억은 재구성된 결과물이며, 크든 작든 뒤틀린 부분이 있게 마련이다”라는 심리학자 크리스토퍼 프렌치 Christopher French의 발언을 인용하면서. “기억의 타래는 거짓 기억을 만들어낼 만큼 취약하다”는 점도 강조합니다.

따라서 “과학적 회의주의는 특정 가설이 증거로 뒷받침되는지 탐색하는 과정에서 아주 중요”하다고 주장합니다. 음모론자나 그 신봉자들은 자신의 주장에 반하는 경험적 증거를 끈질기게 무시하는 경향을 보이는데요, 이것은 “회의주의가 아니라 순수한 현실부정론”이라고 강하게 질책합니다.

4부 거짓말, 빌어먹을 거짓말, 그리고 통계

Politicians use statistics in the same way that a drunk uses lamp-posts—for support rather than illumination.
Andrew Lang

4부에서는 통계가 허위정보, 음모론, 프로파간다에 동원될 때, 어떻게 왜곡되는가를 설명합니다. 가장 흔히 나타나는 왜곡으로는 인과관계의 오류와 같은 비형식적 오류에 빠지는 통계의 견강부회를 살펴볼 수 있습니다. “상관관계가 인과관계를 뜻하지는 않는다”라고 단호히 말하며, 흔한 장난질을 질책합니다.

통계에는 통계적 유의도 statistical signification라는 개념이 존재합니다. 학술논문에서 자주 사용되곤 하는 표현이 ’ 통계적으로 유의미하다‘는 표현인데요, 표본수가 작을 경우 이 통계적 유의도의 신뢰성이 떨어지곤 합니다. 통계값은 대체로 평균으로의 회귀 regression towards the mean를 보이기 때문에, 특이한 통계값에 현혹되어서는 안 된다고 지적합니다. 이를 위해 2005년에 발표된 이오니디스의 논문, <발표된 연구 결과가 대부분 거짓인 이유>의 내용을 정리해서, “주장의 진실성을 평가할 때 기억해야 할 지표 여섯 가지”를 제시합니다.

1 과학 분야에서 연구 표본 수가 적을수록 연구 결과가 진실일 가능성은 적어진다.

2 과학 분야에서 효과 크기 effect size가 작을수록 연구 결과가 진실일 가능성은 적어진다.

3 과학 분야에서 시험한 연관성의 수가 클수록, 그리고 선택한 연관성이 적을수록 연구 결과가 진실일 가능성은 적어진다.

4 과학 분야에서 설계와 정의, 결과, 분석 형식의 융통성이 높을수록 연구 결과가 진실일 가능성은 적어진다.

5 과학 분야에서 재정·이익·편견이 클수록 연구 결과가 진실일 가능성은 적어진다.

6 과학 분야에서 인기 있을수록(더 많은 연구팀이 연구할수록) 연구 결과가 진실일 가능성은 적어진다.

5부 대환장 뉴스

Newspapers are unable, seemingly, to discriminate between a bicycle accident and the collapse of civilization.
George Bernard Shaw

5부에서는 레거시 미디어나 뉴미디에서 사안을 다루는 방식이 보여주는 문제점을 지적합니다.

특히 ”매스컴이 저지른 실수는 전형적인 기계적 중립“이라고 주장합니다. ”기계적 중립은 충돌하는 주장 뒤에 있는 증거를 고려하지 않고 그저 공정성이라는 환상에 집착할 때 번성한다 “라고 지적하면서, ”객관적인 과학 주제도 쉽게 조작할 수 있다"고 경고합니다.

현재 우리나라가 처한 내란상황에서도 드러나고 있습니다만, 양가적인 상황에 놓여 있지 않은 ’여야 대립‘을 기계적 중립에 놓고 다루다 보니 현실이 왜곡됐습니다. 이럴 때는 ”맥락과 보호벽을 벗겨내면 대개는 스펙트럼의 양 끝에서 외치는 극단적인 주장만 남고, 대립하는 진영이 서로를 감시“하기만 할 뿐이라서. ”환원주의적 렌즈로 들여다보면 어떤 주제든 이원론이 돼 “는 비극적 상황에 빠지게 된다고 설명합니다. ”‘좋거나’ 혹은 ‘나쁘거나’, ‘옳거나’ 혹은 ‘그르거나’ 둘 중 하나“라는 극단적 대립으로 상황을 몰고 간다는 거죠.

이 문제에서 가장 곤란한 부분은 ”정보원과 우리의 편향“이라고도 지적합니다. ”확증편향이라는 인간의 성향은 추론의 결함에 도전하기보다는 기존의 믿음을 강화하는 이야기를 선택“하기 마련이란 겁니다. 저자는 이를 간파한 자들이 ”사람들의 편견을 충족해 주고, 듣고 싶어 하는 말을 정확하게 해 주면서 엄청난 이익을 얻는다“고 비판합니다.

따라서 저자는 자연과학 진흥을 위한 런던 왕립학회 Royal Society of London for the Improvement of Natural Knowledge의 문장에 적힌 라틴어 문구 ‘nullius in verba’을 인용해 ‘그 누구의 말도 맹목적으로 믿지 않는다’는 과학적 회의론의 태도를 요구합니다.