…어떻게 사랑할 (하지 않을) 수 있을까

카를 지크문트 <어떻게 수학을 사랑하지 않을 수 있을까?>

…비트겐슈타인은 “모순에 대한 수학자의 미신적인 공포와 숭배”를 조롱했다. 그는 이렇게 물었다. 어떻게 모순을 찾을 수 있을까? 어떻게 모순을 공략할 것인가? (원했든 원치 않았든) 만일 부정합성이 나타난다면 어떻게 할 것인가? 힘겹게 얻은 수학 정리들을 모조리 포기할 각오가 되어 있는가? 그럴 리 없다! 형식화는 게임에 불과하다. 게임 규칙이 모순으로 이어진다는 사실이 드러날 때마다 수학자들은 규칙을 바꿔 모순을 해소할 것이다.

괴델을 비롯한 소수의 사람들은 이로부터 비트겐슈타인이 힐베르트 프로그램도 괴델 증명도 이해하지 못했다고 결론 내렸다. 그럴지도 모른다. 하지만 그렇다고 해도 수학자들이 모순을 맞닥뜨렸을 때 실제로 하는 일을 비트겐슈타인이 충실하게 묘사했다는 사실은 달라지지 않는다. 이런 일은 수학의 역사에서 드물지 않았다. 가장 유명한 예로는 러셀의 역설이 있다.

비트겐슈타인은 이런 명언을 남겼다. “이렇게 말해도 좋겠다. 모순을 맞닥뜨렸을 때 그것을 다룰 시간은 언제나 있다고.” 그러고는 한술 더 떴다. “모순은 신들이 귀띔해 주는 말로 받아들여야 하는지도 모르겠다. 고민하지 말고 행동하라고.”

모순을 만나면 고민하지 말고 행동하라! 이것은 신들이 귀띔해 주는 말이 아니라 전직 포병 장교(비트겐슈타인)의 군사 격언처럼 들린다.

​

- 카를 지크문트 <어떻게 수학을 사랑하지 않을 수 있을까?>, 노승영 역, 월북, 142~3

​

이 책에는 수학자도 아니고 수학자를 조롱하기를 서슴지 않았던 비트겐슈타인의 지분이 제법 되는데, 수학자인 저자가 비트겐슈타인의 입을 빌려 수학, 수학 철학이 걸어온 길을 냉정하게 성찰하고 있다는 느낌을 준다. 말하자면 비트겐슈타인 식의, 진지할수록 웃기게 느껴지는 자조의 방식으로 말이다. 책날개에 쓰여있는 책 소개에는 ‘수학은 언제나 답을 찾는다’라면서, ‘행복’‘공정’‘계약’ 같은 인생의 난제도 수학으로 풀면 훨씬 명료해진다,고 자신만만하게 쓰여있다. 하지만 막상 책을 읽으면 수학이 멋지게 난제들을 해결해 나가는 과정보다는 감각적 현실과 형이상학인 수의 세계, 양쪽에 발을 걸친 천재적인 수(철)학자들이 얼마나 많은 오류를 행했으며, 또한 그들이 남긴 이른바 ‘증명’이 실패한 것으로 밝혀진 예들이 무수하게 많으며, 그 와중에 그들끼리 경쟁하고 반목하거나 협력하는 꽤나 인간적인 고초를 겪어야만 했는지에 대해 주로 서술되어 있다. 러셀 같은 천재도 업적보다는 자신의 정리를 어떻게든 온전한 것으로 남기기 위해 덧방을 해댄 것으로 후대의 입길에 더 자주 오르내리지 않는가. 위에 인용한 구절은 수학자들에게 한 방 제대로 먹인 비트겐슈타인을 인용하면서도 마지막에 비트겐슈타인에게도 한 방 먹인 작가의 균형감각이 돋보인다.

​

…믿음은 대체로 감정과 결부되지만, 그 감정의 세기를 측정하는 객관적인 방법은 전혀 없는 듯하다. 어떻게 감정에 숫자를 매기겠는가? 게다가 “우리가 가장 확고하게 고수하는 믿음은 사실상 어떤 감정도 결부되지 않은 경우가 많다. 당연하게 여기는 것에 강렬한 감정을 느끼는 사람은 아무도 없다.” 따라서 감정보다는 믿음에 의해 유발되는 행동을 눈여겨봐야 한다. 이를테면 1/3의 주관적 확률은 ‘1 대 2의 내기를 걸 정도의 믿음과 분명히 연관되어 있”다.

(중략)

객관적 확률은 형이상학적 개념이라는 것이 브루노 데 피네티의 주장이다. 실용적 측면에서 무의미하다는 말이다. 그가 의기양양하게 내거는 구호가 있다. “확률은 존재하지 않는다”우리가 합리적으로 시도할 수 있는 최선은 어림한 뒤에 증거가 나오면 믿음을 변경하는 것이다. 어떤 면에서 믿음은 틀릴 수 없다. 매번 관찰의 결과로 믿음이 갱신되더라도 이는 믿음이 올바르게 교정된다는 의미가 아니다. 애초에 틀린 적이 없기 때문이다.

(중략) 저마다 사전 확률이 다른 저마다 다른 사람들의 믿음이 (매우 일반적인 조건에서) 갱신되면, 시도가 충분히 자주 반복될 경우 이 믿음은 같은 값으로 수렴할 것이다. 물론, 그렇다면 이 극한값이야말로 개관적 확률이라고 주장하려는 유혹을 느낄 법하다. 이런 의미에서 보면 객관적 확률은 주관적 확률에서 생겨난다.

하지만 그것은 여러 의미로 믿음을 넘어선다.

​

- 위의 책, 268~9

​

책의 8장 ‘무작위성’은 내게 있어 가장 매혹적이고도 가장 어렵게 느껴지는 (이라고 말하기에는 뭐 다 어렵긴 했다만) 부분이었다. 책을 읽다 보면 일상생활에서 대충 상식적인 척하고 넘어가는 것들 하나하나에 문제 제기를 하고 결국 수학적 난제와 연결되어 있음을 발견하는 것이 수학자들이 주로 하는 일이라는 것을 알게 되는데, ‘무작위성’이란 무엇인가, 그게 가능하기는 한 것인가,라는 고민을 한다는 것이 일차적으로 놀라운 것이었고, 그것이 결국 수적인 명료함이 아니라 ‘믿음’에 기대어 해결의 실마리를 찾고 있다는 것에 다시 한번 놀랐다. 이 ‘믿음의 논리’를 처음 설파한 사람은 프랭크 플럼프턴 램지로, 스물여섯의 나이에 감염병-황달-수술 실패의 결과로 세상을 떠난 천재다. ‘램지는 결과에 대한 무관심에서 출발해서 이를 이용하여 부분적 믿음 1/2을 정의하고, 다시 이를 이용하여 효용의 온전한 척도를 정의하고, 이 척도를 이용하여 부분적 믿음의 온전한 척도를 정의했다. 이것은 스스로를 창조하는 최고의 방법이다. 이렇게 적은 재료로 이렇게 많은 내용을 유도한 적은 일찍이 없었다. 이 방법을 보면 뮌히하우젠 남작의 일화가 떠오른다. 그는 늪에 빠지자 자신의 머리카락을 잡아당겨 빠져나왔다는 주장으로 유명하다. 하지만 뮌히하우젠은 사기꾼이었고 램지는 아니었다.’(위의 책 263~4)

​

이쯤 되면 이 책이 단지 수학의 시선으로 바라본 철학 혹은 그 역에 대해 쓴 것이 아니라는 것이 감이 잡힌다. 이 책은 수학(자)의 시선으로 거의 모든 분야, 역사, 철학, 사회과학 전반에 대해 보고 있으며, 그 모든 분야에서 수학이 제기한 문제가 분야의 발전을 견인해왔고, 그 발전이 다시 수학의 발전과 도전을 견인해왔음을 보여준다. 9장 투표와 12장 사회계약은 이를 가장 잘 보여준다.

​

…콩도르세의 정치 산술은 어떤 학문이었을까? 연구의 계기는 결선투표를 위협하는 역설의 발견이었다. 역설이라고? 그보다는 민주주의의 명백한 오점에 가까웠다. 모든 결선투표에서 이길 수 있는 후보가 정작 결선투표에 올라가지 못하는 현상에 다른 어떤 이름을 붙일 수 있겠는가? 이 오점은 결코 기현상이 아니며 수많은 선거에 만연했다. (중략) 보르다 계산법과 결선투표제에 공통되는 또 다른 문제는 한 후보가 어떤 이유로든 경쟁에서 탈락했을 때 나머지 후보들의 순위가 바뀔 수 있다는 것이다. (중략) 두 경우 다, 패자가 기권했는데 승자가 바뀐다. 이런 현상이 선거에서 벌어진다는 것은 수상쩍어 보인다.

​

-위의 책 277~283

​

두 명의 후보자를 두고 직접 투표를 하는 경우에는 부정행위만 없다면 투표 참여자들의 의중이 정확히 반영될 수 있겠지만 셋 혹은 그 이상의 후보자가 경쟁을 하는 경우 어떤 식으로든 빈틈이, 역설이 발생한다. 사실 대부분은 그런 사실을 염두에 두지 않고 투표에 참여한다. 힘겹게 일궈낸 우리의 민주주의가 우리 등에 칼을 꽂는 일은 없을 거라는 믿음을 갖고. 하지만 수학적으로 계산해 볼 때 이 투표의 행위가 참여자들의 의중을 오점 없이 반영할 수 없는 경우의 수가 너무 많다는 것을 프랑스 혁명의 주역이자 로베스 피에르에 의해 죽음을 맞이한 콩도르세 후작이 그 시절 이미 밝혀냈다. (어떻게 모순이 발생하는지 보여주는 과정은 너무 길어 따로 인용하지 않음.) 콩도르세의 학문적 숙적이라는 수학자이자 천문학자인 장 샤를 드 보르다 역시 산술적으로 이 직접 투표의 맹점을 지적하며 콩도르세의 승자 찾기 전략에 맞선 ‘전략적 투표’라는 새로운 방안을 제시하기도 했다. 문제는 두 방법 모두 여전히 맹점을 갖고 있으며 보르다가 인정했듯 ’정직한 사람들을 위한 계산법’이라는 것이다. 즉 누군가 맹점을 이용할 계략을 세우면 충분히 순위를 뒤바꿀 수 있다는 것이다. 그들의 시대로부터 250년이 흘렀고, ‘투표와 관련한 수학은 어마어마하게 성장했으며 수백 가지 선거 절차의 장단점이 비교된다. 하지만 콩도르세 학파와 보르다 학파(미친 양과 이름난 뱃사람)가 옥신각신하며 여전히 이 분야를 지배하고 있다.’(283) 그리고 현재를 살아가는 우리는 심심치 않게 이 맹점을 목격하고, 그 결과에 고통받고 있다. 저자는 루소의 ‘일반의지’‘장군의 의지’ 등 민주주의를 모순 없이 구현해 줄 방법들의 출현을 소개하지만 여전히 모두를 만족시킬 방법의 출현은 요원해 보인다. 그러면서 선거가 ‘측량 행위’에 머물지 않고 ‘참여의 제의’라는 결론을 내린다. 그렇다. 우리는 투표에 참여함으로써 민주주의가 실현될 것이라는 믿음을 섬기는 제의에 참여하는 것이다. 그 결과가 비록 대의를 충실히 반영하지 못한다 하더라도, 다시 독재의 시대로 돌아갈 수는 없다는 간절한 믿음의 결과에 복종하면서 다음 기회를 노리는 방식으로 말이다.

무중력 고양이

글이 너무 길어져 12장 사회계약과 13장 공정에 대해서는 소개를 못했다. 투표도 그렇지만 사회계약과 공정을 수학의 시선으로 바라볼 수 있다는 것, 그리고 그것이 일반인들이 무심하게 ‘상식’으로 받아들이는 여러 사회법칙들의 본질적인 문제들을 다루는 방식이 상당히 유려하고 노련하다. 글을 잘 쓰는 수학자나 물리학자들을 보면 역시 신은 불공평하다는 생각이 강하게 들고 마는데, 카를 지그문트 선생이 그 불공평한 저울에 묵직한 추를 한 개 추가했다. 하지만 지난 포스팅에서 말했듯이 그의 언어는 ‘수’이다. 그의 언어로 대화를 시도하면 대부분 이해를 못 할 것이고, 애초에 들으려는 독자가 거의 없을 것이다. 하여 천재들은 오늘도 평범한 인간들의 언어를 구사하여 글을 쓴다. 수학을 이해하는 이들의 뇌가 만들어낸 세계는 수학을 이해하지 못하는 인간들의 뇌가 만들어낸 세계와 완전히 다를 테지만 그 세계의 얼개가 대충 어떻게 이루어져 있는지 애써 설명을 시도하는 것이다. 그래서 그의 노력은 나라는 독자의 경우에 있어 어느 정도 성공을 거두었을까? 나는 그저 수학이라는 늪에 빠진 나의 머리채를 손으로 잡고 스스로 끌어올려 보려고 용을 썼을 뿐이다. 이 가엾은 고백을 선생이 나쁘지 않게 들어주면 좋겠다.

​