brunch

You can make anything
by writing

C.S.Lewis

by ENA Sep 10. 2020

수학이 진실을 왜곡할 때

레일라 슈넵스, 코랄리 콜메즈, 《법정에 선 수학》

무언가를 수치로 나타내면 매우 신뢰가 있어 보인다. 단순한 수치가 아니라 확률로 표현된 수치, 통계학적 분석을 한 결과는 더더욱 그렇다. 그러나 《법정에 선 수학》은 그런 수학이 현실에서는 때로는 악용되고, 혹은 잘못 다뤄져서 큰 오판을 저지를 수 있다는 것을 여실히 보여준다. 비록 수학에 관한 얘기이지만, 진실을 파헤치는 논픽션으로, 법정 드라마 같기도 하고, 심지어 미스터리 소설처럼 10개의 사건을 통해 수학의 힘과 수학의 왜곡과 수학의 진실을 보여주고 있다.

레이라 슈넵스와 콜랄리 콜메즈, 수학자 모녀가 쓴 이 책에서 다루고 있는 사건들은 대체로 다른 책에서 띄엄띄엄 접했던 것들이 많다. 다단계 사기의 원조인 폰지 사건부터, 연쇄살인범으로 몰린 간호사에 관한 루시아 더베르크 사건, 이탈리아에서 벌어진 어맨다 녹스 사건, 영유아 돌연사 사건과 관련된 샐리 클라크 사건, 인상 착의의 확률에 관한 고전적인 사건이 된 콜린스 부부 사건, 너무나도 유명한 프랑스의 드레퓌스 사건(드레퓌스 사건에서는 필적에 대한 분석이 중요했다는 것은 알고 있었지만, 여기에 암호문과 관련한 수학이 아주 왜곡되어 적용되었었다는 것은 처음 알았다) 등이 그렇다. 그 밖에 UC 버클리가 대학 입학에서 성차별을 했는지에 대한 조사(심슨의 역설), 30년 동안 보관되어 있던 DNA를 다시 분석해서 찾아낸 범인에 관한 사건, 부모를 살해한 아들에 관한 사건인 조 스니드 사건, 그리고 미국 역사상 가장 부유했던 여성인 해티 그린의 상속에 관한 사건 등을 다루고 있다.

저자들이 지적하고 있듯이 이 책에서 다루고 있는 10개의 사례(case) 대부분은 수학이 진실을 드러낸다기보다는 감추고 왜곡하는 데 이용되었던 것들이다. 물론 이후에 다시 수학이 이전의 왜곡을 바로잡았고, 그렇지 않았다면 이 책을 통해서 진실이 어떤 것인지, 혹은 어떻게 왜곡되어 해석될 수 있는지를 보여주고는 있지만 수학이 잘못 사용되었을 경우 어떤 끔찍한 결과를 가져올 수 있는지를 잘 보여주고 있다. 사실 그 예외라고 볼 수 있는 UC 버클리의 성차별 사건의 경우도 우리의 상식과는 다른 해석을 하고 있다는 점에서 역시 직관과 실제 수학적 사고가 얼마나 유리되어 있을 수 있는지를 보여준다고 할 수 있다(실제 수학과의 정교수 임용에서는 분명히 차별이 있었지만, 입학에서는 특정한 과를 제외하고는 거의 성차별이 없었다).

여기서 다루고 있는 수학은 대부분 확률과 통계다. 조금 생각해보면, 확률과 통계는 (일반적으로)수학에서 기대하는 ‘정확성’ 혹은 ‘분명함’과는 거리가 있다는 것을 알 수 있다(김민형 교수는 수학에서 기대하는 그런 정확성과 분명함에 대해 경계하지만 - 《다시, 수학이 필요한 시간》). 예를 들어 샐리 클라크 사건에서 두 아이가 연속으로 사망할 확률이 7,300만분의 1이라는 계산을 통해서(물론 그 확률 자체가 잘못된 것이었지만), 그런 확률은 영국 부모의 수를 훨씬 상회하므로 거의 일어날 수 없는 사건이고, 따라서 엄마가 아이들을 죽였다는 결론을 내렸었다. 하지만 7,300만분의 1이라는 확률, 혹은 p 값이 0.00001이라는 통계 결과는 어떻게 받아들이느냐에 따라서 달라질 수 있다. 물론 많은 사람들이 저 숫자를 판단할 때 ‘거의’ 있을 수 없는 확률, 혹은 거의 분명하다고 받아들일 가능성이 매우매우 높지만, 그렇다고 하더라도 분명한 것은 아니라는 점은 여전하다. 물론 우리가 확률과 통계를 사용하는 이유는 세상이 100%로 분명하게 판단할 수 없는 상황이고, 그 확률과 통계가 세상을 해석하고 행동의 준거로 삼는 데 매우 유용하기 때문이다. 하지만 한 사람의 범죄 여부를 해석하는, 즉 인생을 판가름 짓는 법정에서는 상당히 위험할 수 있는 도구인 셈이다.

그래서 이 책에서도 소개하고 있는 콜린스 부부 사건에서 그들의 유죄를 뒤집는 데 결정적인 역할을 한 로렌스 트라이브는 자신의 논문에서 재판에 수학을 끌어들이지 말아야 한다고 주장하기도 했다. 그리고 그 논문의 영향으로 재판에 통계학의 활용이 늦춰지기도 했다고 한다. 하지만 최근에는 DNA 검사법의 발달로 인해 확률과 통계를 재판에 끌어들이는 사례가 늘어나고 있다. DNA라고 한다면 너무나도 분명한 증거이기 때문에 확률과 통계가 필요한가 싶지만, 사실은 그렇지 않다. 어맨다 녹스나 다이애나 실베스터 사건에서도 보듯이 혈액이나 DNA가 아주 미세한 양만 남아 있을 경우에, 혹은 오염되어 있을 경우에, 여러 사람의 것이 함께 섞여 있을 경우에 이를 판단하는 기법은 당연히 확률과 통계, 즉 수학에 기댈 수 밖에 없다. 수학은 재판에서 더 중요해지고 있다.

당연히 수학은 중요하다. 그리고 확률과 통계가 100%의 진실을 말해주지 못한다고 하더라도 다른 분야에서 활용되는 것과 마찬가지로 법정에서도 활용되어야 한다. 그러나 조심스러워야 하며, 조작이 없어야 하며(숫자를 가지고 자신의 입맛에 맞게 조작할 수 있는지를 이 책은 정말 잘 보여준다), 또 제대로 이해하고 다룰 수 있어야 한다. 그래야 수학‘만’으로 사람을 파멸하고, 살리는 경우를 막을 수 있다.