반(反) 직관적인 확률-에필로그

조건부 확률

나는 지난 번 글에서 유교수가 의도하지 않게 ‘전제조건’을 설명해주지 않았다고 썼다.

그 전제조건이란 <(1)참가자가 먼저 문을 선택하고 난 다음에야 사회자는 그 문 외에 다른 문을 선택하여 열어보일 수 있다. (2)사회자는 어느 문 뒤에 황금열쇠가 있는지 미리 알고 있다.>라는 두 개다.

이안 매큐언은 위 전제조건을 설명하고 싶어서 이 확률이론을 피상적으로 이해한 톰에게, 결과는 맞지만 과정이 틀린 단편소설을 쓰게 하였다. 그리고 이 확률이론을 정확하게 이해하고 있었던 수학 전공자 세리나로 하여금 그 단편소설의 결말 부분을 다시 쓰게 하였다.

톰의 소설에서는 테리가 501호를 덮치려고 하는 순간 503호에서 인도인 부부가 나오는 것을 보고 502호로 선택을 바꾼다.

세리나의 소설에서는, 테리의 아내와 간통남이 502호에 있는 것을 미리 알고 있던 청소부 여자가 테리가 501호 앞에 서 있는 것을 보고 비어 있는 503호부터 청소하려고 하자 테리는 502호로 선택을 바꾼다. 위 차이가 무엇일까?

결론부터 말하면 테리(참가자)가 501호를 선택한 후 인도인 부부가 503호에서 나왔으므로 톰의 소설에서도 502호에 불륜남녀가 있을 확률은 2/3이 된다.

만일 테리가 어떤 방에 불륜남녀가 있는지 알지 못하여 선택을 망설이고 있는데 인도인 부부가 503호에서 나왔다면 501호와 502호의 확률은 똑같이 1/2이 된다.

다만 톰의 소설에서는 (1)인도인 부부는 불륜남녀가 502호에 있는지 알지 못하는 상태에서 503호에서 나오게 하였고 (2)테리가 먼저 방을 선택하기를 기다렸다가 503호에서 나온 것이 아니라 테리가 501호를 선택하였는지 여부를 알지 못하는 상태로 인도인 부부가 503호에서 나오게 한 설정에 문제가 있었다.

그래서 세리나는 인도인 부부를 삭제한 다음, (1)불륜남녀가 502호에 있는지 미리 알고 있는 청소부를 등장시켜서 (2)테리가 501호를 선택한 다음에 5층에 도달한 청소부가 502호는 불륜남녀가 있으니까 청소하지 못하고, 501호는 테리가 방문 앞에 있으니 청소하지 못하고 나머지 503호부터 청소하게 하고 (3)테리는 청소부를 통하여 503호가 빈 방인 것을 확인하였으니 502호의 확률이 2/3으로 높아진 것을 알고 502호를 급습하게 하는 내용으로 톰의 소설을 수정하였던 것이다.

즉 이안 매큐언은 테리의 아내와 간통남이 어느 방에 있는지를 모르는 인도인 부부가 503호에서 나오는 것과 그 불륜남녀가 502호에 있는지 사전에 알고 있는 청소부 여자가 503호부터 청소하는 것은, 확률적으로 완전히 다른 상황이라는 것을 말해주고 싶었던 것이다.

그러나 이안 매큐언은 치명적 실수를 했다. (이 점은 샤프한 유교수가 지적해 주었다.)

이안 매큐언은 세리나의 입을 빌려서 다음과 같이 썼다.

<503호에서 인도인 부부가 나왔다고 502호의 확률이 높아지지는 않는다는, 내게 간단하고 자명한 이치가 그에게는 이해할 수 있는 범위를 한참 벗어난 것이었다. 인도인 부부는 TV 퀴즈 프로그램에서 몬티 홀이 했던 역할을 대신할 수 없었다. 몬티의 선택은 프로그램 참가자에 의해 제약되고 결정된 것인 데 반해 인도인 부부의 등장은 임의적인 것이다. 몬티는 임의의 선택자로 대체될 수 없다. 설령 테리가 503호를 선택했다 해도 인도인 부부와 아기는 다른 문으로 나오기 위해 다른 방으로 이동하는 마술을 부릴 수 없었을 것이다. 그들이 나온 후 테리의 아내는 똑같은 확률로 501호나 502호에 있게 된다. 그러니 처음 선택한 방의 문을 부수고 들어가는 편이 낫다.>

이안 매큐언은 인도인 부부가 ‘우연히’ 503호에서 나온 경우에는 테리의 입장에서 501호와 502호의 확률이 똑같이 1/2이 되는 것으로 본 것 같다. 그러나 위에서 설명한 바와 같이 테리가 먼저 501호로 선택하고 그 이후에 인도인 부부가 503호에서 나왔다면 인도인 부부가 502호에 불륜남녀가 있는 것을 알았든 몰랐든, 테리가 501호로 이미 결정한 것을 인도인 부부가 알았든 몰랐든, 502호의 확률은 2/3가 된다.

좀 더 설명 해보자. 501호, 502호, 503호 중 한 곳에 불륜남녀가 있다. 따라서 확률은 똑같이 1/3이었다. 테리가 501호를 급습하기로 선택했다. 그 다음에 503호에 불륜남녀가 없다는 사실이 – 인도인 부부를 통해서든, 청소부 여자를 통해서든 – 확인됐다. 테리는 원래 계획대로 501호를 급습해야 할까, 아니면 502호를 급습하는 것이 확률적으로 더 나을까?

501호에 불륜남녀가 있다고 한다면 502호에는 불륜남녀가 없다. 501호에 불륜남녀가 있을 확률은 1/3이었다. 확률의 합은 1이 되어야 하므로 501호에 불륜남녀가 없을 확률은 2/3가 된다. 즉 501호에 불륜남녀가 없을 확률이 더 크다. 그렇다면 502호에 불륜남녀가 있을 확률은 2/3이 된다.

반대로 생각해도 똑같다. 501호에 불륜남녀가 없으면 502호에는 분명히 있다. 503호에 불륜남녀가 없음이 확인되었기 때문이다.501호에 불륜남녀가 없을 확률은 2/3이다. 즉 502호에 불륜남녀가 없을 확률이 2/3으로서 불륜남녀가 있을 확률인 1/3보다 크므로 테리는 502호로 선택을 바꾸는 것이 확률적으로 유리하다.

이것이 조건부 확률이다. 처음에는 501호, 502호, 503호의 확률이 똑같이 1/3이었는데 503호에 불륜남녀가 없음이 확인되었다는 조건에서는 502호의 확률이 바뀌는 것이다.

조건부 확률이라고 했는데 그 조건은 <(1)어느 방에 불륜남녀가 있는지 알기 전에 테리가 501호를 선택한다는  것 (2)테리의 선택 후에 503호에 불륜남녀가 없었음이 확인된다는 것 (3)테리가 501호에서 502호로 선택을 바꿀 수 있다는 것>, 세가지다. 이 세가지 조건이 충족되면  502호에 불륜남녀가 있을 확률이 2/3가 된다.

카드 게임을 해본다고 상상하자. 카드 100장이 있다. 뒷면에는 1번부터 100번까지 번호가 매겨져 있고 그 중 23번 카드에는 앞면에 표시가 되어 있다. 그 표시카드를 찾는 게임이 시작된다. 사회자는 23번 카드가 표시카드인 것을 사전에 알고 있고, 참가자 1에게 표시카드일 것으로 보이는 카드를 대충 찍으라고 한다. 참가자 1은 87번 카드를 선택한다. 사회자는 90번 카드를 오픈한다. 참가자 1에게 묻는다. 87번 카드를 유지할래, 아니면 바꿀래? 게으른 참가자 1은 87번 카드 선택을 고수한다.

이 번에는 사회자가 66번 카드를 오픈한다. 그리고 또 참가자 1에게 묻는다. 87번 카드를 유지할래, 아니면 바꿀래? 참가자 1은 87번 카드를 유지하겠다고 대답한다.

이 짓을 지겹도록 되풀이한다. 마침내 오픈하지 않은 카드는 87번 카드와 23번 카드만 남았다.

표시카드가 어떤 것인 줄 아는 사회자는 지금까지 계속하여 표시카드가 아닌 카드, 즉 오답(誤答) 카드를 오픈해줬다. 참가자 1이 처음에 87번 카드를 선택했을 때 87번 카드가 표시카드일 확률은 1/100 이었다. 나머지 99장 어딘가에 표시카드가 있을 확률은 99/100였다. 그런데 그 99장 중에 표시카드가 몇 번인지를 미리 알고 있는 사회자는 그 표시카드를 제외한 나머지 카드들을 하나, 하나씩 제거해주었다. 그렇다면 마지막으로 남아 있는 카드 23번이 표시카드가 될 확률은 99/100이 된다. 따라서 참가자는 마지막 순간에는 99%의 확률이 있는 23번으로 선택을 바꿔야 한다.

(신통력 있는 참가자 1이 처음부터 표시카드인 23번을 선택하였고, 마지막까지 오픈되지 않은 카드가 87번이었으며, 확률이 뭔지도 모르는 참가자 1은 23번 카드 선택을 끝까지 고수했다고 가정하자. 그 경우에 87번이 표시카드일 확률이 99%이지만 나머지 1%의 확률이 승리하여 참가자 1은 표시카드를 맞추게 될 것이다.)

이제 참가자 1이 선택한 87번 카드와 사회자가 마지막까지 오픈하지 않은 23번 카드가 있는 상태에서 이 게임 과정을 전혀 모르는 상태로 밖에서 대기하고 있던 참가자 2를 게임 룸으로 불러 들인다.

현재 23번 카드가 표시카드일 확률은 99/100이고, 87번 카드가 표시카드일 확률은 1/100이었다. 참가자 2에게도 같은 확률일까?

아니다. 참가자 2에게는 23번이나 87번이나 모두 1/2의 확률이다.

이것, 이상하지 않은가. 같은 카드인데 왜 참가자 1에게는 23번 카드가 표시카드일 확률이 99%가 되고 참가자 2에게는 50%의 확률 밖에 가지지 못할까?

참가자 1 에게는 정답을 미리 알고 있는 사회자가 계속하여 오답을 제거해주는 과정이 있었기 때문이고, 참가자 2에게는 그런 과정이 없었기 때문이다.

참가자 2가 게임룸 밖에 있었지만 사회자와 참가자 1이 하고 있는 게임을 카메라 생중계로 지켜보고 있었다면 어떻게 될까? 그 때는 당연히 참가자 2에게도 23번 카드가 표시카드일 확률은 99%가 된다.

만일 사회자가 참가자 1이 고수하고 있던 87번 카드를 회수하여 87번 카드와 23번 카드의 번호를 모두 지운 다음에 뒤섞어서 다시 선택하라고 하면 참가자 1에게나 참가자 2에게나 두 카드에서 표시카드를 고를 확률은 모두 1/2이 된다.