이영의 <베이즈주의>
*2017년에 작성한 글이지만 수정하여 다시 올려봅니다. 제가 읽은 것은 1판이지만, 현재 개정판이 나와 있습니다.
나는 스스로를 베이즈주의자, 즉 베이지안(Bayesian)이라고 생각한다. 통계학과 학부과정에서는 베이즈 방법론이 간략하게만 소개되었음에도 '이거다' 싶었다. 그 뒤로 베이즈방법론을 좀 더 공부하면서 내 연구에도 적용해보려고 했었다.
하지만 쉽지 않았다. 베이즈방법론이 어떤 것인지 알겠고 알고리듬으로 만들어보기도 했지만, 단순히 베이즈확률만 구하는 것과 달리 베이즈추론을 하는 것은 훨씬 더 까다로웠다. 그럼에도 베이즈방법론은 뭔가 버릴 수 없는 묘한 힘이 있었다.
그런데 왜 베이지안이냐고? 그게 더 타당(=합리적)하기 때문이다. 피셔-네이만-피어슨에 의해 정립된 현재의 통계학은 결국 많은 관측 결과에 대해서 어느 정도의 위험부담(=유의수준)을 안고 맞다, 틀리다 밖에는 판별할 수 없는데 이는 인간이 직관적으로 생각하는 확률과는 다르다. 인간의 직관은 오히려 베이지안에 가깝다.
그럼에도 그동안 베이지안은 통계학계에서는 이단시되어왔는데, 그나마 지금은 컴퓨팅 환경도 발달하고, 이론적으로도 정립되어서 빈도주의자(Frequentest)와 양립할 수 있는 상황이 되었다. 하지만 베이즈주의와 빈도주의는 대립하는 것이 아니라 상보적인 것이기에 베이지안이라고 해서 정통 통계학의 중요성을 무시할 수 있는 것은 아니다.
베이즈주의는 합리적으로 보이지만 객관성이 결여된다는 약점이 있다. 일반적인 통계적 방법론에 비해 주관성이 많이 개입되기 때문이다. 사전분포 가정에 대한 논란, 모델이나 패러미터, 적용한 상수 등도 그렇지만, 추론이라는 게 결국은 아무도 모르는 것에 대한 짐작이기 때문이다. 가장 그럴싸한 짐작을 하는 것이 추론의 목적이고.
<베이즈주의>는 베이즈주의의 철학적인 고찰을 다룬 책이다. 부제는 '합리성으로부터 객관성으로의 여정'이다. 이 부제에 이 책의 핵심이 담겨 있다고 할 수 있다.
이 책은 통계학 책이 아니라 철학책이다. 베이즈방법론의 철학적 의미를 이야기하고 있어서 흥미로운 내용이었다. 하지만 베이즈방법론을 비롯해서 통계학에 대한 기본적인 지식이 어느 정도는 있어야 좀 더 이해에 도움이 될 것 같다. (통계학 학부 정도 수준? 또는 최소한 통계학 개론이나 수리 통계학에 대한 이해가 필요할 것 같다)
저자인 이영의 교수는 과학철학 전공이다. 그래서인가 부제의 그 한 마디를 고찰하기 위해 400 페이지가 넘는 분량을 할애했다. 내용도 상당히 깊이가 있고, 마치 수학의 증명을 따라가듯 긴 여정을 이어간다. 레퍼런스도 많고 수식도 많아 자칫 지루하게 느껴질 수도 있지만 저자의 집념이 느껴진다. 그리고 오롯이 저 문장에 대한 내용에 집중하고 있고, 베이즈주의의 다른 면은 간략하게만 언급하고 있다.
그가 이 책을 쓰게 된 이유는 다음과 같은 의구심에서 비롯되었다.
합리성만으로 이성적 판단을 보증할 수 있는가?
베이즈주의가 과학적 추론과 과학 방법론에 관한 좋은 이론으로 남으려면 나의 의문에 대해 충분히 납득할 수 있는 설명을 제공해야 할 것이다. 이 책은 베이즈주의를 지지하는 입장에서 그 목적을 달성하기 위한 하나의 시도이다. 이 책의 목표는 과학 방법론으로서의 베이즈주의가 지닌 일차적 덕목을 합리성이 아니라 객관성으로 보고 그것을 확보할 길을 구체적으로 모색하는 데 있다.
주관적 베이즈주의(subjective Bayesianism)에 따르면 확률은 개인의 신념도이며, 베이즈주의적 합리성은 개인의 신념도로서의 확률에 대한 주관적 해석을 바탕으로 성립한다. 주관적 베이즈주의의 근본 문제 중 하나는 그렇게 정의된 합리성이 최소한의 규제만을 받는다는 데 있다. 즉 개인의 믿음 체계는 확률론의 공리 체계를 준수하고 일관성을 위배하지 않는 한 합리적이라고 판정된다. 그러나 이렇게 간단명료하게 이해된 베이즈주의적 합리성 개념이 과연 경험적 영역을 다루는 과학적 추론 및 과학 방법론에 적절히 적용될 수 있는지는 매우 의심스럽다.
(1판 서문 중에서)
베이즈주의에 따르면 확률은 사람들이 사건이나 명제에 대해 갖는 신념도(degree of belief)이다. 베이즈주의적 행위자의 신념도 형성, 신념도의 변화, 신념도의 변화에 따른 행위를 규제하는 가장 중요한 요소는 합리성이다. 베이즈주의적 행위자의 합리적 행위는 확률 공리 체계를 준수할 것으로 기대된다. 베이즈주의를 반대하는 학자들은 이 지점에서 다양한 비판을 쏟아낸다. 그중에서 중요한 것으로는 확률 공리를 따르는 것만으로 행위의 합리성을 규제할 수 있는가, 합리성 이외에 다른 규제가 필요한 것은 아닌가 하는 비판이 있다. 물론 베이즈주의자들이 고민해야 할 다른 중요한 비판이 많이 있지만 내가 보기에 이 문제는 베이즈주의의 아킬레스건이다.
(1판 서문 중에서)
베이즈주의의 아킬레스건과 같은 주관성, 그것이 과학적 방법론의 불문율과도 같은 객관성에 반하기 때문에 베이즈주의가 객관성을 확보하는 것은 중요한 문제가 된다.
이 책은 아래와 같이 3부로 구성되어 있다.
제1부: 베이즈주의적 합리성을 규정하고 그런 합리성을 뒷받침하는 이론적 틀을 검토한다.
제2부: 베이즈주의적 합리성에 대한 도전들과 객관성에 대한 도전들을 검토한다.
제3부: 합리성의 문제들을 베이즈주의 이론적 틀 안에서 해결함으로써 객관성을 확보할 방안을 제시한다.
주관적 베이즈주의의 과제는 개인적 차원에서의 신념도의 수렴을 넘어 사회적 차원에서 수렴을 반영하는 것이다. 물론 베이즈주의자들은 사전확률의 임의적 부여를 제한하는 데 초점을 둔 객관적 베이즈주의(objective Bayesianism)를 지지할 수 있지만 이어만이 지적했듯이 이런 시도는 제한적으로만 성공적이다. 나는 주관적 베이즈주의와 객관적 베이즈주의의 한계를 극복하고 객관성을 확보할 방안으로서 다양한 원천에서 나온 보고와 증언에서 사회적 합의를 이끌어내는 베이즈주의적 방법을 제시할 것이다.
(1판 서문 중에서)
위의 구성과 같이 먼저 베이즈주의가 과연 합리적인가라는 고찰부터 시작한다. 그러한 합리성에 대한 증거를 확보한 후 객관성으로 나아간다.
저자는 이를 위해 정지규칙과 가능도원리의 수용에 대한 수정베이즈주의에 대한 고찰을 하지만 베이즈주의의 주관적 특성은 그 정도의 차이가 있을 뿐 잔존하므로 그것이 유지되는 상황에서의 객관성에 대한 확보 방안이라는 점을 이야기한다.
또한 '엄격한 시험' 문제도 도입하였다. 이는 뒤엠문제와 이론 미결정성 문제를 해결하기 위한 것인데, 이 책에서 고찰했던 헬만의 개념과 메이요의 개념은 각각 한계를 갖고 있다.
그는 위의 이론적인 고찰 이외에 사회적 합의를 제기하였는데 이를 통해 개인적인 주관성을 집단의 간주관성으로서의 객관성으로 확장시킬 수 있으리라는 생각 때문이다. 하지만 그것은 쉽지 않은 문제다. 최근에는 베이즈망을 비롯해서 인공지능에서 이러한 점들이 부각되고 있기에 그런 접근들이 좀 더 수월해질 수 있을 것이라는 기대만 해볼 따름이다.
그러한 그의 시도가 성공적이었다고 말할 수 있을까? 물론 여기에서 밝힌 것들은 비록 근거에 바탕을 둔 것이라고 하더라도 학계의 합의가 아직 도출된 것은 아니다. 저자의 사적인 의견이라고 할 수 있지만 나는 상당히 타당하다고 느꼈다.
다소 방대하고 여러 학문들의 연구결과들이 나열되어 있기에 이해가 어렵긴 했지만 괜찮은 내용이라고 생각한다. 시간이 되면 다시 한번 천천히 읽어보고 싶다.
