확률이란 무엇인가

[책을 읽고] 장톈룽, <확률로 바라본 수학적 일상> (2)

빈도주의자와 베이즈주의자

확률 이론에는 크게 빈도주의와 베이즈주의가 있다.

학교에서 우리가 처음 배우는 확률은 빈도주의자의 확률이다.

예를 들면, 동전을 던졌을 때 앞면이 나올 확률이 1/2이라는 주장이 빈도주의적 확률이다.

그러나 생각해 보자.

세상에 과연 그런 동전이 존재할까?

엄밀히 말하면, 이런 동전은 플라톤의 이데아에나 존재한다.

반면, 베이즈주의자들은 동전을 던졌을 때 앞면이 나올 확률을 '가정'한다.

관찰자의 믿음을 가정이란 형식으로 확률 계산에 도입하는 것이다.

예컨대 어떤 사람이 동전 앞면 확률을 50%라 가정하고 10회 실험을 했는데 전부 뒷면이 나왔다면,

이 사람은 이 동전의 경우, 앞면이 나올 확률이 50%보다 작다고 믿을 만한 실험 결과를 확보한 셈이다.

이에 따라, 이 사람은 동전 앞면에 대한 확률을 사후적으로 수정하게 되는데,

이때 사용하는 것이 교과서에도 나오는 조건부 확률 공식이다.

이름: 베이즈, 직업: (평생) 목사

정말 다른가?

말했듯이, 조건부 확률 공식은 고등학교 교과서에 나오며, 베이즈주의란 말은 없다.

하나의 공식을 가지고, 두 학파는 전혀 다른 말을 한다.

즉, 베이즈주의자와 빈도주의자는 같은 이론을 해석하는 방식에서만 다르다고 말할 수 있다.

빈도주의자가 말하는 확률은 빈도의 '극한값'이다.

(이데아적인) 동전을 10번, 100번을 던지면 앞면이 나오는 숫자가 정확히 50%는 아니겠지만,

수천, 수만, 아니 수억 번의 실험이 반복되면 결국 그 확률은 50%와 매우 근접할 것이다.

다시 말해, 확률은 50%로 수렴한다.

반면, 베이즈주의는 얼마나 큰 수가 되어야 '큰 수의 법칙'이 성립하는지에 대해 의문을 가진다.

그래서 현실적으로, 어떤 확률에 대한 믿음을 토대로 (사전적 확률)

실험과 검증을 통해 더 정확한 확률을 (사후적 확률) 추정해 나간다.

내 개인적인 생각이지만, 빈도주의는 귀납법에 의해 무언가가 증명될 수 있다고 믿는 것과 다름없다.

그건 과학적으로 불가능하다.

그러나 빈도주의는 직관적이고 편리하다.

내일도 해가 뜰지 안 뜰지 불확실하다는 사실을 머릿속에서 계산하며 살 수는 없는 노릇이다.

21세기에도 플라톤 식의 절대주의는 일상생활은 물론 학계에도 널리 퍼져있다.

확률 이론이라고 상황이 다를 이유가 없다.

몬티홀 문제

베르뜨랑의 역설은 역설도 아니고, 한번 웃고 넘어갈 정도로 가벼운 사안이다. ("문제를 제대로 내야지.")

반면, 몬티홀 문제는 사정이 다르다.

몬티홀 문제에 대해서는, 정답으로 널리 인정되고 있는 해답(바꿔야 한다)에 대해

반대하는 논문이 아직도 (저자에 따르면 2011년에도) 나오는 중이다.

가장 유명한 인물은 아마도 헝가리 출신의 유명한 수학자 폴 에르되시Paul Erdös(1913-1996)가 아닐까 싶다. 그는 지금까지도 수학 논문을 가장 많이 발표한 수학자이며, 발표한 논문만 해도 1,525편에 달한다. (2부 2장)

애초에 문이 세 개였다면 당첨 확률은 1/3이고, 그게 왜 변하냐는, 매우 직관적인 생각이다.

그러나 오답이 공개된 다음에 선택지를 바꿔야 한다는 (현재 정설인) 정답은 이미 증명되어 있다.

많은 사람들이 몬테 카를로 시뮬레이션을 돌린 결과, 선택을 바꾼 경우의 당첨 확률이 압도적으로 높았다.

몬티홀 문제도 결국 빈도주의와 베이즈주의라는 두 개의 다른 접근방식으로 해석이 가능하다.

확률을 고수하는 빈도주의, 그리고 확률을 수정하는 베이즈주의다.

베이즈주의도 몬티홀 문제의 정답도 직관적이지 않다.

그러나 어쩌면 그것이 우리가 사는 세상의 참모습이다.

양자역학이 주장하듯 말이다.

양자 베이즈 모델

양자역학에 대한 코펜하겐 해석이 마음에 들지 않는 사람들이 많은 모양이다.

오죽하면 다중세계 해석이라는 일종의 말장난이 마치 제대로 된 해석 방법처럼 소개되는 실정이다.

21세기 초, 미국의 세 학자가 "베이즈 확률로서의 양자 확률"이란 논문을 공동 발표했다.

양자 베이즈 모델에 따르면 확률의 발생은 물질의 내재적 구조에 의해 결정되는 것이 아니라 양자 시스템의 불확실성에 대한 관찰자의 신뢰도와 관련이 있다. (2부 5장)

(당연한 얘기지만) 파동함수는 그냥 수학 모델이지 실재하는 무엇이 아니다.

저자가 말하듯 보어도 이 사실을 여러 차례 지적했다.

위 논문은 파동함수가 표현하는 것이 베이즈주의자들의 사전확률, 즉 관찰자의 신뢰도라고 해석한다.

다시 말해, 파동함수의 붕괴는 관찰자의 (사전적) 믿음에 대한 사후적 업데이트다.

동전을 계속 던지다 보니 앞면이 더 잘 나오는 동전이라는 관찰자의 믿음이 강해져 간다고 해서,

동전 던지기에 의해 (어디에 부딪혀 찌그러지는 게 아니라면) 동전 그 자체가 바뀌지 않는 것과 마찬가지다.

양자 시스템, 즉 우리가 사는 세계는 변하지 않는다.

파동함수를 통해 관찰하는 우리가 양자 시스템("세계")에 대해 가지는 믿음이 바뀔 뿐이다.

***계속***