수학으로 범죄를 해결한다

케이스 데블린, 게리 로든, 『넘버스』

미국 드라마 시리즈에 <넘버스(NUMB3RS)>라는 게 있었나 보다. 2005년에부터 여섯시즌에 걸쳐 방영되었던 모양이다(찾아보니 우리나라에서도 방영되었다). FBI 수사관인 형 돕 엡스와 동생인 수학자 찰리 엡스가 주인공이라고 한다. 수학의 도움을 받아 범죄를 해결해나가는 형제의 활약을 그렸다. 게키스 데블린과 게리 로든의 『넘버스』는 바로 이 동명의 드라마에 기초를 두고 쓴 책이다. 드라마에서 사용되는 수학적 기법을 소개하고, 그것이 얼마나 타당한 것인지, 드라마에서는 채 보여주지 못한 수학의 배경은 무엇인지, 그리고 현실에서는 어떤지를 이야기한다(다만, 책은 드라마가 세 시즌을 마쳤을 즈음에 출판되었다).

누구나 수학으로 범죄를 해결한다는 게 그리 터무니없게 여기지는 않을 것이다. 고도화되어 가는 과학의 세계에서, 과학 수사를 누구나 옹호하는 마당에, 과학을 지탱하고 있는 수학적 사고가 범죄 해결에 결정적인 역할을 할 수 있으리라는 것은 예상할 수 있는 것이다. 그런데, 그 ‘수학’은 과연 어떤 것일까? 쉽게 얘기할 수 없다. 통계라든가, 확률, 혹은 좀 더 나간다면 네트워크 이론 정도? 보통의 우리가 가진 수학적 지식만으로는 범죄 해결의 수학을 아무렇지 않게 얘기할 수 없다. 아마 드라마를 보면서도 수학의 쓰임새에 공감은 하면서, 고개를 끄덕이지만 수학 자체를 이해하기는 쉽지 않았을 것이다. 그래서 우리는 이 책을 읽는다.

그러면 저자들(중 한 명은 드라마에 자문을 한 수학자다)은 드라마에서 무엇을 보았을까? 다음과 같은 것들이다.

알려진 정보를 활용해서 연쇄 살인범이 살고 있거나, 활동하는 지역을 추적해나가는 지리적 프로파일링 기법

통계 분석을 통해 살인마 간호사(‘죽음의 천사’)의 유죄를 입증해내는 통계적 가설 설정

데이터로부터 유용한 정보를 걸러내는 데이터 마이닝

어떤 특정한 현상이 발생하는 패턴이 달라지는 시점(변화의 조짐)을 조기에 발견해내는 기법

눈으로는 뚜렷하게 구별해내지 못하는 이미지를 픽셀별로 재구성하하여 범인을 식별해낼 수 있도록 하는 이미지 화질 개선(화질 개선의 수학)

DNA 프로파일링의 근거와 지문 분석의 위험성

국외로부터 유입되는 무기나, 테러범을 구별해내는 위험 분석

인터넷 보안 시스템의 근간이 되는 리만 가설

죄수의 딜레마를 기초로 하는 게임 이론

카지노에서 블랙잭 게임에서 승리할 수 있도록 하는 카드 카운팅

그리고 베이즈 통계분석

어때 보이나? 정말 수학 같은 것도 있지만, 저런 게 수학? 이런 느낌이 드는 것도 있다. 그러나 모두 ‘수학자’들이 진지하게 연구하는 분야들이다. 물론 모두 수학자만이 관심을 가지고 있거나, 수학자만이 해결할 수 있는 문제는 아니다. 이를테면 DNA 프로파일링만 보아도, 그 기법을 믿을 만하게 하는 데는 생물학과 화학의 발전이 전제되어야 한다. 그래도 수학이 참 넒은 범위를 커버한다는 건 분명해 보인다.

그렇다면 궁금해진다. 범죄 해결에서 수학은 얼마가 결정적일까? 수학으로 상당수의 범죄를 해결하고, 혹은 예방한다고 하면, 현장에서 양말도 갈아 신지 못하고 뛰어다니는 형사들은 그저 헛짓하는 것일까? 그들에게는 수학적 마인드가 없어 그렇게 몸고생을 하는 것일까? 그럴 수도 있을 것이다. 수학적 마인드를 가지고, 수학적 기법을 갖추고 있거나, 혹은 수학자에게 기댈 너른 마음만 있다면 그만큼 고생하지 않을 수도 있을 것이다. 그런데 꼭 그런 것만은 아니란 걸 우리는 잘 안다. 수학은 범위를 만들어내고, 아닌 것을 제외할 수 있는 능력을 주고, 조심해야 할 범위를 넓히거나 줄일 수 있고, 잘못된 추론을 지적해낼 능력이 있을 뿐이다. 결국 마지막에 해결해야 하는 것은 ‘사람’이다. 그래서 드라마도 찰리 엡스와 돈 엡스가 함께 등장하는 게 아닌가?

일라 슈넴스와 콜랄리 콜메즈의 『법정에 선 수학』이 실제 사건을 통해 수학의 힘과 수학의 왜곡, 수학의 진실을 보여준다면, 이 책은 그보다는 생생함은 덜하고, 좀 더 딱딱하지만, 수학이 범죄 예방과 해결에 어떤 역할을 하는지 잘 보여주는 책이다.