몬티 홀 문제
선택의 문제, 그리고 문제 해결 전략
최근 재미있게 본 넷플릭스의 드라마 중에 D.P. 가 있습니다. 탈영병을 추적하여 체포하는 대한민국 육군 군탈체포조를 소재로 하고 있는 이 드라마는, 탈영병의 다양한 사연과 면모가 소개되면서, 군내 폭력의 문제가 다시 사회 문제로 점화하는 계기가 되었습니다. 국군 부산병원에서 나름 힘겨운 군생활을 했던 저는, 드라마를 보며 저를 괴롭혔던 선임병들을 한 사람씩 떠올리는 시간을 가졌습니다. 당시는 몹시도 힘들었지만, "국방부 시계는 돌아간다"는 격언대로, 26개월 군 복무를 무사히 마쳤고, 그 시절은 이제 그저 잊혀 가는 추억거리가 되어 가네요.
D.P. 의 에피소드 중 '몬티 홀 문제'가 등장하는데, 알고 보면 아주 재미있는 확률 문제입니다. 드라마에서는 탈영병이 어느 대학의 경영학 원론 수업 시간에 맞춘 것으로 소개되지만, 사실 몬티 홀 문제는 30년 전 미국의 어느 천재가 이미 풀이를 해둔 유명한 문제입니다.
'몬티 홀'은 미국 NBCTV의 유명한 게임쇼의 진행자 이름인데, 이 게임의 아디디어를 제공한 장본인이기도 합니다. 1963년 12월 처음 방송된 이 TV쇼는 ABC 방송을 거쳐 다른 케이블 채널을 통해서도 방영되었던 장수 프로그램인데요. 게임의 규칙은 생각보다 간단합니다. 무대 위에는 3개의 문이 있고, 문마다 커튼이 쳐져 있어서 그 안에 무엇이 들어 있는지 아무도 알 수 없습니다. 문 뒤에는 고급 승용차가 있을 수도 있고, 오물통이 있을 수도 있습니다. 프로그램에 참가하는 사람들에게는 3개의 문 중 하나를 선택해 그 문 뒤에 있는 물건과 자신이 갖고 있는 보잘것없는 어떠한 물건과도 맞바꿀 자격이 주어집니다.
만약 여러분이 게임쇼에 출연하여 3개의 문 중 하나는 선택하라는 요구를 받았다고 가정해 보십시다. 하나의 문 뒤에는 '페라리 스포츠카'가 있고, 다른 2개의 문 뒤에는 '오물통'이 있습니다. 여러분의 손에는 버릴 때가 다된 너덜너덜한 손수건이 있고, 그것과 문 뒤의 물건을 맞바꾸고자 합니다.
여러분이 1번 문을 선택하자 모든 상황을 미리 알고 있는 사회자가 1번 대신 3번 문을 열어 보이고, 그곳에는 오물통이 있음을 알게 되었습니다. 이제 사회자가 여러분에게 묻습니다. “지금 2번 문으로 선택을 바꾸셔도 됩니다. 바꾸시겠습니까?” 이 난감한 상황에서 여러분이라면 어떻게 하시겠습니까? 1번 문을 고수하시겠습니까, 아니면 2번 문으로 선택을 바꾸시겠습니까? 아마 많은 독자분들이 1번으로 계속 가겠다고 말씀하실 것 같습니다. 괜히 2번으로 바꿨다가 처음 선택했던 1번 문 뒤에 페라리가 있으면 억울해서 미칠 것이기 때문이지요.
이 문제는 1990년 미국의 어느 유명 잡지에 문의가 올라왔는데, 당시 세계에서 지능지수가 가장 높은 사람으로 기네스북에 올라와 있던 메릴린이란 천재가 “바꾸는 것이 유리하다”라고 답하면서 큰 화제를 불어 일으켰다고 합니다. CIA나 걸프전에 참전했던 전투기 조종사들 사이에 열띤 논쟁을 불어 일으켰으며, MIT 수학과 교수들과 로스앨러모스 국립연구소의 프로그래머들까지도 설전을 벌였던 정도였으니까요.
“바꾸는 것이 유리하다”던 메릴린의 설명은 이러합니다. 여러분이 1번 문을 그대로 고수한다면 페라리 스포츠카를 갖게 될 확률은 여전히 3분의 1입니다. 그러나, 주어진 하나의 상황에서 모든 확률을 더한 값은 항상 1이어야 합니다. 3번 문이 꽝임이 새롭게 알려진 상황에서, 여러분이 2번 문으로 선택을 바꾸었을 때 그곳에 페라리 스포츠카가 있을 확률은 따라서 3분의 2가 됩니다. 3번 문이 꽝이라는 사실로 인해 문제의 조건이 바뀌었기 때문에, 선택을 바꿈으로써 당첨 확률을 높일 수 있다는 얘기입니다. 또 다른 설명으로는 선택을 두 번 할 기회가 주어졌으므로 인해 기존의 선택을 고수하는 것보다 선택을 바꾸는 것이 확률을 2배로 만들기 때문에 3분의 2가 된다는 논리도 가능합니다.
D.P. 드라마에서 경영학 교수는 “몬티 홀” 문제를 우리 인생에도 대입할 수 있다고 소개합니다. 몬티 홀 문제보다 훨씬 복잡한 우리 인생에서도 조건이 바뀌면 선택이 달라져야 하는 상황이 얼마든지 올 수 있다는 것이었는데요.
전 “몬티 홀”의 문제를 제가 이끌어 가는 법정 사건을 해결하는 상황에서도 동일하게 관찰합니다. 사건의 조건이 바뀌면 선택도 전략도 바꾸는 게 오히려 자연스럽다는 것입니다. 간혹 제 의뢰인들로부터 제가 말을 바꾼다는 푸념을 듣는데요. “변호사님, 전에는 사건 종결까지 2년이라고 하셨는데, 이번에는 3년이라고 하십니다.” “전에는 예상 보상 액수를 2만 불로 예측하셨는데, 이번에는 1만 불로 말씀하십니다.” “전에는 수술을 받는 게 낫다고 하셨는데, 이번에는 수술을 받지 않는 게 낫다고 하십니다.” 등등입니다. 그러나 사건은 마치 하나의 '생명'과 같아서 시간이 가면서 조건도 변화하기 마련입니다. 바뀌는 조건에 따라 최선의 결과를 창출해 내기 위한 저의 선택도 바뀌어야 했던 경우인 것이지요.
한번 정해놓은 선택을 끝까지 밀고 나가는 저력도 하나의 문제 해결 방법이지만, 상황과 조건의 변화에 따라 선택과 전략을 수정하는 것이 오히려 최선일 수도 있다는 생각입니다.
