틀리지 않는 법

수학적 사고의 힘

조던 앨렌버그

김명남 옮김

열린책들

2016년 04월

기대

엔지니어로 살면서도 수학은 늘 어려웠다. 그래서 싫었다. 그래도 생각은 늘 수학적으로 했던 것 같다. 늘 아귀 맞춰 설명하려 했고, 설명이 되지 않는 건 받아들이지도 않고 남에게 주장하지도 못했다. 그러고 보니 내게는 수학이 논리를 뜻하는 것이었던 모양이다.

비록 수학은 싫어했지만 사회현상을 수학적으로 풀어내는 건 매우 재미있어 한다. 그래서 레일라 슈넵스 부녀가 쓴 <법정에 선 수학>이라는 책을 보자 그저 제목만으로 끌렸다. 짐작했던 대로 수학으로 판결의 오류를 밝혀낸 이야기였다. 다단계 사기의 전형으로 유명한 폰지 사기에 이용된 수학적 모델, UC버클리 대학원 입학시험 합격률 통계를 분석해 성차별을 밝혀낸 일, 간호사가 환자 살인사건의 용의자로 몰린 것을 근무기록과 사건발생 시간을 연계분석해서 무죄를 밝혀낸 일. 그 중에서 단연 압권은 알프레드 드레퓌스 사건에서 그를 간첩으로 몰아간 근거가 되었던 ‘확률을 이용한 필적감정’이었다. 그러나 책은 줄거리만큼 흥미롭지 않았다. 엄청난 수식을 써가며 설명한 것도 아니고 그저 도표 몇 개를 보여주며 논리적으로 이야기를 풀어간 것인데도 도저히 따라갈 수 없었다. 결국 뒤쪽은 건성으로 읽고 책을 덮었다. 그렇기는 해도 드레퓌스 사건의 전말은 매우 흥미로웠다.

<법정에 선 수학>과 거의 동시에 눈에 들어온 책이 있었다. ‘수학적 사고의 힘’이라는 부제가 붙은 <틀리지 않는 법>이었다. 재미와 전문성 두 마리 토끼를 잡은 보기 드문 수작이라는 출판사 소개 글에 이끌려 무려 600페이지가 넘는데도 읽을 엄두를 내보기로 했다. 맛보기로 실어놓은 본문에 ‘생존편향 오류’가 들어있는 것도 궁금증을 부추겼다.

권면

일상생활 중 수학적인 계산이 필요한 일이 얼마나 될까? 그렇기 때문에 졸업하고 나면 수학책은 다시 볼 일이 없을 것으로 생각하고, 또 사실이 그렇기도 하다. 하지만 수학은 생각보다 우리 삶에 깊이 영향을 미치고 있다. 

저자는 “수학에서 적분은 축구에서의 웨이트트레이닝이나 체조와 같다. 네가 축구를 정말 잘하고 싶다면 지루하고 반복적이고 무의미해 보이는 훈련을 엄청나게 많이 해야 해. 프로선수들이 그런 기초훈련을 실제로 써먹느냐고? 물론 그들이 웨이트를 들거나 도로 표지판 고깔들 사이를 지그재그로 누비는 모습을 우리가 볼 일은 없겠지. 하지만 선수들이 매주 그런 지루한 기초훈련을 통해서 쌓은 힘, 속력, 통찰, 유연성을 사용하는 모습은 볼 수 있다.”고 설명한다. 그러면서 수학은 우리가 이성적으로 사고하는 방식에 깊숙이 얽혀 있으며, 우리가 틀리지 않도록 도와주는 과학이고, 그것으로 세상을 더 깊게, 더 올바르게, 더 의미 있게 이해할 수 있다며 수학과 친밀해지기를 권고한다.

흥분

논리학에서 자주 인용되는 ‘생존편향 오류(survivorship bias)’는 알고 보니 2차 세계대전 당시 컬럼비아대학 통계학 교수였던 아브라함 발드가 전쟁지원 기밀프로그램인 SRG(Statistical Research Group)에서 밝혀낸 사실이었다.

그들은 전투기 취약부분을 보강하기 위해 피격상태를 분석했다. 그 결과 피격지점이 대부분 날개와 꼬리에 집중되어 있었고, 따라서 해당 부분을 보강하라는 결론을 내리는 것이 합리적일 것으로 보였다. 하지만 조종석과 엔진 부분을 집중적으로 보강하는 것으로 결론 내렸다. 전투기 각 부분이 적군의 총탄에 손상을 입을 확률이 비슷한데, 조종석과 엔진에 피격흔적이 없다는 것은 그곳이 손상되면 추락해 돌아오지 못할 치명타가 되었기 때문이라는 것이다.

저자는 아브라함 발드의 이론을 “야전병원에 총을 가슴에 맞은 사람보다 다리에 맞은 사람이 많은 건, 가슴에 맞은 사람이 많지 않아서가 아니라 가슴에 맞은 사람들은 살아남지 못했기 때문”이라고 풀어서 설명한다. 그러면서 “수학자는 늘 어떤 가정을 품고 있는지, 그 가정은 정당한지 물어야 한다”고 말한다. 말하자면 ‘날개와 꼬리를 보강해야 한다고 생각한 사람’들은 자신도 모르게 ‘기지로 복귀한 전투기 전체에서 무작위로 추출된 것’이라고 생각했다는 것이다. 치명타를 입은 전투기들은 돌아오지 못하고 치명적이지 않은 곳에 총격을 입은 전투기만 돌아왔음에도 불구하고.

저자는 이 이론이 뮤추얼펀드에도 동일하게 적용된다고 설명한다. “모든 뮤추얼펀드는 영원하지 않다. 어떤 펀드는 장수하고 어떤 펀드는 일찍 죽는다. 죽은 펀드는 대체로 돈을 못 번 펀드이다. 그러니 어느 시점에 살아남은 펀드만 가지고 과거 십 년간 운영된 모든 펀드의 가치를 판단하는 것은 기지로 복귀한 전투기의 총알구멍만 헤아려서 조종사들의 전투능력을 판단하는 것과 마찬가지다. 만일 총알구멍이 비행기 한 대당 두 개 이상은 절대 발견되지 않는다면 그것은 무슨 뜻일까? 그것은 조종사들이 적의 포화를 피하는데 뛰어나다는 뜻이 아니라 두 번 맞은 비행기는 죄다 불길에 휩싸여 추락했다는 뜻이다.”

책을 열자 프롤로그에 이 글이 실렸다. 그러면서 “수학을 가르쳐야 하는 이유는 사람보다 컴퓨터가 효율적으로 더 잘할 수 있는 적분이나 선형회귀 같은 것을 익숙하게 풀도록 만들기 위해서가 아니라”고 말한다. 문제를 푸는 방식은 적절한지, 문제 푼 결과가 타당한지를 평가하는 일은 사람 밖에 할 수 없고, 그러기 위해 수학을 가르친다는 것이다. 그러니 단순히 문제풀이만 가르치는 건 수학의 당초 목적에 어긋나는 것이다.

저자는 그렇다고 해서 구구단 외우기와 같은 기계적인 교육은 폐지하자는 일부 개혁주의자의 주장에 동조할 수 없다고 분명하게 선을 긋는다. 수학적 사고 과정에서 단순한 계산을 위해 그때마다 계산기를 찾아야 한다면 사고에 필요한 속도를 낼 수 없기 때문이다. 단어의 철자를 일일이 찾아가면서 시를 쓸 수는 없는 법이니 말이다.

낙심

여기까지 읽으면서 여러 번 무릎을 쳤다. 바로 내가 찾던 책이었기 때문이다. 하지만 아쉽게도 그렇게 쉬운 말로 선명하게 수학의 목적과 필요성을 풀어낸 글은 프롤로그가 전부였다. 그 이후에는 복잡한 수식과 그래프, 그리고 난해한 설명이 이어졌다. 읽다가 도중에 손들고 만 <법정에 선 수학>보다 더 어려웠다. 머리에 쥐가 나도록 열흘 가까이 씨름해서 결국 마지막 장에 이르기는 했지만, 솔직히 뭘 읽었는지도 잘 모르겠다.

그렇다고 해서 건진 게 전혀 없는 건 아니다. 평소에 갖고 있었던 궁금증 하나를 풀 수 있었고, 오랫동안 궁금해 하지도 않고 당연하게 여겼던 사회현상의 바탕에 그럴 수밖에 없는 수학적 원인이 있었다는 흥미로운 글도 읽었다. 하지만 수학책은 역시 수학책이어서 그동안 소원했던 수학과 다시 친해져보겠다는 각오가 영 무색하게 되었다. 아마 앞으로 수학책에 관심을 가져볼 일이 다시 있을 것 같지는 않다.

회귀

프로야구 시즌이 시작되면 첫 달에는 언제나 경이로운 타율이 쏟아진다. 올해도 예외 없이 그런 일이 일어났는데, 외국인 타자 하나는 초반 잠깐이기는 했지만 5할을 넘기기도 했다. 하지만 시즌이 진행되면서 여느 때처럼 타율이 내려가 올해 수위타자 최형우는 0.354로 시즌을 마감하였다. 나는 왜 타자들이 시즌초반의 맹렬한 타율을 유지하지 못하는지 늘 궁금했다. 저자는 이를 ‘회귀’로 설명하고 있다.

첫 소설로 대박을 터뜨렸던 신예 작가의 두 번째 소설이나 데뷔 음반이 엄청나게 유행했던 밴드의 두 번째 앨범이 첫 번째만큼 좋은 경우가 드문 것이나, 다년계약에 성공하는 선수가 이후 시즌에서 성적이 이전만 못한 것이 모두 회귀 때문이라는 것이다. 저자는 예술적 성공은 인생의 모든 것이 그렇듯 재능과 운의 결합이니 평균으로 회귀가 적용된다고 설명한다. 이어서 다년계약에 성공한 선수는 더 열심히 할 금전적 동기가 없기 때문이라기보다는 애초에 그들이 엄청나게 훌륭한 한 해를 보냈기 때문에 그 결과로 다년계약을 따낸 것이라고 설명한다. 그러니 이들이 이후에 정상적인 수준으로 회귀하지 않는다면 그것이야말로 정말 기이한 일일 것이라고 말한다.

이러한 현상은 매년 올스타 휴식기에 열리는 홈런더비에서도 동일하게 일어난다. 홈런더비는 최고 강타자들이 배팅연습용 구질을 던지는 투수를 상대로 누가 더 많은 홈런을 날리는지 경쟁하는 대회인데, 그렇기 때문에 타격 타이밍이 흐트러져서  휴식기 직후 몇 주 동안은 홈런을 치기가 더 어렵다고 불평하기도 한다. 이른바 홈런더비의 저주이다. 하지만 저자는 저주 같은 것은 없으며, 더비에 참가한 선수들은 시즌 전반을 엄청나게 훌륭하게 보냈기 때문에 그 자리에 선 것이고, 그래서 회귀에 따라 그들의 후반 기록은 평균적으로 전반의 페이스에 미칠 수가 없다고 설명한다.

통찰

읽으면서 얻은 일상과 관련된 통찰 몇 가지

○ 인과관계에서 오는 상관관계와 그렇지 않은 상관관계를 가려내는 것은 미치도록 어려운 일이다.

○ 다수결은 간단하고 깔끔하고 공정한 기법으로 느껴지지만 단 두 선택지 사이에서 결정할 때만 최선의 기법이다. 선택지가 둘을 넘어서면 다수결의 선호에 모순이 스미기 시작한다.

○ 음수(陰數)가 될 수 있는 상황에서는 퍼센트를 논하지 말라. 음수가 퍼센트와 같은 산술과 결합되면 뭔가 우리의 직관을 혼선시키는 측면이 생겨난다.

○ 우리는 <발생확률이 대단히 낮다>는 것을 <사실상 불가능한 일이다>는 뜻으로 여기기 쉽다. 그러나 무언가 불가능하다는 것과 확률이 대단히 낮다는 것은 전혀 같지 않다. 비슷하지도 않다. 불가능한 일은 절대 벌어지지 않지만 확률이 낮은 일은 많이 벌어진다.