겸손한 헛소리 파괴자가 되기

- 똑똑하게 생존하기 서평

미국 워싱턴 대학교의 교수인 칼 벅스트롬과 제빈 웨스트가 쓴 ‘똑똑하게 생존하기’(원제 Calling Bullshit)는 거짓과 기만 속에서 살아가는 현대인을 위한 헛소리 까발리기의 기술들을 가르쳐주는 책이다.

우선 헛소리가 무엇인지, 우리 주변 곳곳에 어떤 종류의 헛소리들이 퍼져 있는지, 헛소리를 알아차리고 반박하는 방법이 무엇인지를 많은 실제 데이터와 기사, 논문 예시를 통해 자세하게 설명해주고 있다.

워싱턴 대학교 학생들에게 강의한 수업 내용을 토대로 쓴 책이고 방대한 데이터에 대해서 통계, 확률, 의학, 경제, 사회과학 같은 분야에 대해 논리적 분석과 추론으로 사고하는 법을 알려주는 내용들이어서 다소 어렵고 이해가 잘 안 되는 부분도 많았다.

하지만 각 챕터에서 소개한 내용 중에서 이해하기 쉬운 부분들만으로도 우리가 일상 속에서 그럴싸하여 믿을 뻔한 헛소리에 대해서 경각심을 가지고 다시 한번 생각하고 분별하도록 일깨워주는데 충분한 도움을 주는 책이라고 생각한다.

각 챕터별로 인상적이었던 내용과 이에 대해 깨달은 점은 다음과 같다.

사방에 널린 헛소리

세상에는 헛소리가 넘쳐나고, 우리는 그 속에서 익사할 지경에 처했다고 저자는 말한다. 그런데 헛소리란 과연 무엇일까?

헛소리는 특정한 사안에 관해 사람들을 호도함으로써 우리 세계를 오염시키고 정보를 신뢰하는 우리의 능력을 전반적으로 약화시키는 것이고(7쪽),

철학자 해리 프랑크푸르트는 헛소리란 사림들이 자기 말이 진실인지 거짓인지, 옳고 그른지 신경 쓰지 않고 상대방을 감동시키거나 설득하려고 할 때 만들어내는 것(79쪽)

이라고 설명하고 있다

헛소리의 특징 중 하나가 헛소리를 반박하는데 필요한 에너지의 양은 그런 헛소리를 생산하는데 필요한 에너지보다 몇십 배나 많다(베르토 브란돌리니의 법칙)는 것이다.

그 예로, 홍역-볼거리-풍진 백신이 아이들이 자폐증과 관련 있다는 1998년 영국 의사 앤드루 웨이크필드의 연구는 신빙성이 없는 연구였으나 이미 의학계에 널리 퍼져버렸고, 자폐증과 백신이 사이에 연관성이 없다고 증명하고 루머를 밝히는데 훨씬 많은 시간과 에너지를 투자해야 했으나 이미 퍼져버린 이 헛소리로 공중보건에 심각한 해를 끼쳤다.

헛소리는 만들어 내기 쉬울 뿐 아니라 퍼지기도 쉽다. 풍자 작가 조너선 스위프트의 글처럼 거짓말은 날아가고, 진실은 절뚝거리며 그 뒤를 따라가서 따라잡을 수가 없게 되는 것이다

매체, 메시지, 잘못된 정보

매체 특히 뉴스가 헛소리를 만들어내는 이유는 오직 하나. 그게 돈벌이가 되기 때문이다. 소셜미디어는 당파성이 강한 내용을 선호하고 이런 기사는 주류 뉴스보다 많이 공유되고 일단 공유되면 사람들이 클릭할 가능성도 높다. (59쪽) 그리고 이렇게 사람들이 클릭한 헛소리는 인터넷과 SNS 통해 빠르게 퍼져 나가 사람들을 현혹시키고 헛소리를 생산한 자들의 뜻대로 그 거짓된 내용을 믿게 만든다.

헛소리의 본질

헛소리에는 진실이나 논리적 일관성, 실제 전달되는 정보를 노골적으로 무시한 채 청중의 주의를 산만하게 하거나 압도하거나 위협함으로써 그들을 설득하거나 감동을 주기 위한 언어, 통계 수치, 데이터 그래픽, 기타 형태의 설명이 포함된다. (81쪽)

그 예로 2016년 말 공학자 샤오린 우와 시 장이 사람 얼굴 이미지를 가지고 머신러닝을 이용해 범죄성과 관련 있는 얼굴 특징을 찾아내 구별할 수 있다는 논문을 발표했는데 결론은 범죄자와 일반인에 대한 편향된 이미지 데이터를 사용했기에 범죄 탐지기가 아닌 미소 탐지기를 발명한 꼴이 되었다.

인과관계

두 가지 현상이 서로 상관관계가 있을 때 그 상관관계가 반드시 인과관계를 내포하지는 않는다.

하지만 이를 와전하여 인과관계로 전달하는 헛소리가 많다.

예를 들면, 어린이를 대상으로 진행한 연구에서 유지방을 많이 섭취한 어린이 쪽이 고도비만이 될 가능성이 낮다는 사실이 밝혀졌다. 연구자들은 이것이 상관관계일 뿐 인과관계를 증명하지는 않는다고 경고했는데 논문 제목은 <라틴계 어린이가 전유를 마시면 고도비만을 예방할 수 있다> 라고 인과관계를 나타내게끔 발표했다. (113쪽)

이 외에도 일부분의 데이터를 그래프화 해서 서로 상관성 없는 두 대상에 대해 상관성을 주장하는 가짜 상관관계에 대해서도 근거 없는 비약을 주의해야 한다.

숫자와 헛소리

20세기 초 베트남은 프랑스 식민지 상태였는데, 하노이의 식민지 관료들은 이 도시의 쥐를 없애기 위해서 쥐를 잡는데 포상금을 걸었고 고용된 쥐사냥꾼들이 식민지 관리사무소에 쥐꼬리를 보낼 때마다 작은 보상금을 주었다. 그런데 문제는 사냥꾼들이 포상금을 받기 위해 쥐꼬리를 잘라낸 뒤 쥐가 번식하도록 놔두어 계속해서 쥐의 꼬리를 획득하였고 더 나아가서는 쥐를 가둬서 기르기까지 하는 지경이 되었다. (160쪽)

이렇듯 측정치가 목적이 되면 올바른 측정은 불가능하다는 것을 굿하트의 법칙이라고 한다.

이 굿하트의 법칙을 측정하여 나온 숫자에 대입해 본다면, 뭔가를 측정하는 것이 사람들의 행동을 변화시켜 측정 결과의 가치를 떨어뜨리지는 않는지, 그 측정치가 원래 측정하려고 했던 걸 측정한 결과인지 아니면 편법을 써서 좋거나 나쁘게 보이게 한 것인지 생각해봐야 한다.

선택 편향

선택 편향은 연구를 위해 표본으로 선택한 개인이 연구 대상이 될 수 있는 모집단과 체계적으로 다를 때 생긴다. (186쪽)

음악가의 사망 연령과 음악 장르 연관성(211쪽)처럼 데이터가 우측 중도 절단되면 선택 편향된 결과를 도출하여 블루스나 재즈 뮤지션은 오래 살고 랩이나 힙합 뮤지션들은 단명한다는 헛소리를 만들게 된다.

데이터 시각

헛소리란 진실과 논리적 일관성을 노골적으로 무시하면서 청중의 관심을 다른 데로 돌리거나 압도하거나 위협하는 방법으로 그들을 설득하거나 깊은 인상을 주기 위한 것(238쪽)인데 그래프나 차트를 이용한 데이터 시각화가 디자인만 부각해 표시하거나 근본 데이터를 정확하게 반영하지 않는 특정 경우 헛소리로 작동한다.

사망 사고를 당한 운전사 수의 경우 나이가 많을수록 사망자 수가 적게 표시된 그래프는 각 운전자 연령대의 총 주행거리를 제대로 반영하여 거리당 사망 사고 발생 건수를 다시 산정할 경우 65세부터 사망자가 급증하는 그래프가 된다. (278쪽)

이제부터 그래프, 차트를 볼 때는 축 범위나 그래프의 넓이도 자세히 살펴보며 정확한 데이터를 표시하고 있는지 아니면 디자이너가 믿게 하고 싶은 내용에 맞춰 디자인됐는지 비판적인 시각으로 봐야겠다고 생각했다.

빅데이터에 담긴 헛소리 까발리기

빅데이터를 이용한 머신러닝에도 헛소리가 숨겨져 있을 수 있다.

머신러닝을 훈련시킬 때 사용한 데이터가 편향되어 있으면 머신러닝의 인공지능 알고리즘은 그 환경 내에서만 유의미한 결과를 내도록 학습하게 된다.

책에 나온 예를 보면 시베리안 허스키와 늑대의 사진을 구분하는 AI 개발에서 알고리즘이 개의 주둥이, 눈, 털 또는 사람이 허스키와 늑대를 구분할 때 이용하는 형태적 특징에 별로 주의를 기울이지 않고 늑대 사진의 배경에는 눈밭이 있고 개 사진의 배경은 대개 눈 배경이 아닌 차이를 이용해 결정을 내린다는 것이었다.

이것은 머신러닝 이라기보다 기계 세뇌라 부를 만하다. 그렇기 때문에 알고리즘이 어떠한 방식으로 돌아가는지 투명성이 필요한데 상당수의 알고리즘의 내용은 기업비밀로 간주되어 공개하지 않는다.

대규모 데이터의 축적과 이를 통한 AI의 발전을 지켜보며 한편으로는 그 결과물이 헛소리를 말하고 있는지에 대해서 우리는 항상 살펴볼 필요가 있다

과학의 민감도

과학은 현시대에 사람들에게 절대 진리요 만능으로 받아들여지고 있고 그래서 과학이 헛소리를 파헤치는 가장 일반적인 방법으로 자리 잡았지만 과학 분야에도 수많은 헛소리가 있다고 저자는 말하고 있다

과학자들이 연구를 하고 논문 발표하는 목적이 돈을 벌고 동료들 사이에서 높은 지위를 얻고 인정을 추구하기 위해 우선순위 규칙을 따른다고 한다.

그래서 과학자들은 논문 발표나 과학저술을 할 때 광범위한 연구 메뉴에서 자기가 원하는 것만 고른 뒤 거기서 일관되고 설득력 있는 얘기를 전달하는 부분집합을 추출해 내서(362쪽) 독자들로부터 조회수를 높이고자 한다.

아쉽게도 책에서 예로 설명한 P-해킹과 출판 편향 부분 등의 내용은 수학의 확률, 통계, 경우의 수 영역인데 대부분 잘 이해가 되지 않았다.

헛소리 알아차리기

도처에 헛소리가 퍼져 있는데 어떻게 해야 거기에 말려들지 않을 수 있을까? 저자는 적절한 마음 습관을 기르는 것이 중요하다고 한다. 다음과 같은 의문을 품고 정보에 접근하기를 권한다.

누가 내게 이런 말을 하는가?

이 사람은 어떻게 그걸 아는가?

이 사람이 내게 팔려는 것은 무엇인가?

그리고 어떤 주장이 너무 좋거나 나빠서 도저히 사실일 것 같지 않다는 의문이 든다면 그 생각이 아마 맞을 것이라 보고 헛소리인지 아닌지 파헤쳐보라고 한다.

책의 예로, 트럼프의 미국 여행과 이민 제한 정책으로 유학생들의 지원이 거의 40퍼센트나 감소했다는 NBC 뉴스의 트위터 보도에 대해 사실을 파헤쳐보면 전체 대학교 중 40%의 학교에서 지원자가 줄었다는 것을 전체 유학 지원자가 40% 줄었다로 바뀌어서 보도되었다. 실제로는 지원자가 증가한 대학도 35%나 되었는데 트럼프 정책을 탓하기 위해 언론이 독자들을 호도한 것이다.

우리나라의 언론보도는 이보다 훨씬 더 편향적이고 의도적인 편파보도로 호도하기가 부지기 수이니 언론 기사를 접할 때 너무 좋거나 나빠서 사실일 것 같지 않은 내용은 보다 깊게 파헤쳐 따져보고 출처와 원본에 대해 찾아보는 습관을 가지겠다고 다짐했다.

헛소리 반박

헛소리를 알아차리고 이에 대해 반박하는 이른바 헛소리 까발리기를 할 때는 주의할 점이 있다.

경솔한 헛소리 까발리기는 낯선 사람을 적으로 만들고 친구들과 소원해지는 빠른 길이다. 헛소리를 효과적으로 까발리려면 제대로 논박하는 방법을 알아야 한다. (420쪽)

귀류법과 반례 제시, 유사사례 제시, 그림 다시 그리기, 널 모델 사용 등의 방법으로 제대로 논박할 수 있는데, 저자가 가장 중요하게 강조하는 반박하는 법으로 폭로하는 나 자신이 겸손할 것과 상대방에게 자비롭게 대할 것을 들고 있다.

그리고 우리가 정보를 공유할 때 좀 더 경계하고 좀 더 사려 깊게 생각하고 좀 더 신중해야 하며 헛소리와 맞닥뜨리면 낱낱이 까발릴 것을 주문하고 있다.

‘똑똑하게 생존하기’를 읽고 앞으로는 뉴스나 SNS, 미디어의 정보를 접하게 되면 그래프나 표의 내용을 보다 꼼꼼히 살피고 data의 출처를 확인해보고 이게 정말 말이 되는지 너무 좋거나 너무 나빠서 도저히 사실이 아닐 것 같은 소리는 아닌지 생각해 볼 것이다.

그리고 헛소리를 알아차리고 반박해야 할 때는 겸손하게 얘기하고 전달한 사람에게 자비로운 태도로 그 사람이 아니라 주장에 대해 예의 바르게 헛소리를 까발리겠다.