수학 얘기는 별로 없지만... 어쨌든 재밌는 수학 여행
[책을 읽고] 짐 홀트의 <아인슈타인이 괴델과 함께 걸을 때>
이 책은 좀 김 빠지는 책이다. 온갖 지적 유희가 널려 있는 예고편을 서론에서 보여주지만, 뒤이어 나오는 본편이 영 시원치 않기 때문이다. 예컨대 러시아 출신의 수학자 에드워드 프렌켈의 수학적 업적에 관해 다루는 제6장은 프렌켈의 책 <사랑과 수학>을 요약, 발췌한 내용인데, 그 책을 직접 읽은 나로서는 그 내용이 심각하게 불충분하다는 증언을 할 수 있다. 저자 짐 홀트는 어려운 군론의 설명에 굳이 지면을 할애하지 않고 에드워드 프렌켈의 개인사에 초점을 맞춘다. 20세기 후반에 러시아에서 유대인 천재가 박해를 받은 이야기이니 이야깃감으로는 그만 아닌가. 맛배기로 나온다고 볼 수 있는 군론의 가장 기본적인 설명은 싱겁기 그지 없다. 기본적인 집합 개념이나 모듈러 연산조차 그는 거론하지 않는다. 아마, 책이 너무 어려우면 팔리지 않을 거라고 생각했는지도 모른다.
제6장을 마치면서 나는 암울함을 느꼈다. 아직 1/4도 읽지 않았기 때문이었다! 괴델이 폴 디랙의 마이너 카피 같은 아스퍼거형 인간이라거나, 그리고리 페렐만보다 십여년이나 먼저 피레네 산맥으로 사라진 그로텐디크라는 수학자도 있었다는 류의 가십거리를 원해서 이 책을 고른 게 아니었다.
다행히도, 재미있는 파트가 몇 개 있었다. 책이 두꺼워서 그런지, 재미있는 파트만 모아도 다른 교양수학책 한 권 분량은 된다.
1. 리만-제타 추측
제4장 '리만-제타 추측'은 적절한 수준의 해설과 저자의 주관적인 의견이 잘 버무려진 것이, 교양 수학서적에 딱 맞는 레시피다.
리만 가설은 간단히 말해 소수가 가지는 규칙성에 관한 것이다. 이 가설이 참으로 밝혀진다면, 소수는 아마 지금까지 누려온 인기를 잃고 말 것이다. 신비함이 사라진 뒤에 누가 소수를 찬양하겠는가? 짐 홀트는 리만-제타 추측에 관한 장에서 두 가지 쾌거를 이루어냈다. 첫 번째는 리만-제타 추측을 알기 쉽게 표현한 것이다. 비록 다른 사람의 설명을 옮긴 것뿐이기는 하지만 말이다.
마커스 드 사토이는 이렇게 적었다. "만약 리만 가설이 옳다면, 소수에 뚜렷한 패턴이 없는 이유가 밝혀질 것이다. 한 패턴은 다른 악기들에 비해 큰 소리로 연주되는 한 악기에 대응한다. 마치 각 악기가 자신만의 패턴을 연주하는데, 그 모두를 매우 완벽하게 합치면 패턴들이 서로 상쇄되어 아무런 형태가 없는 소수들의 밀물과 썰물만 남게 되는 식이다." (103쪽)
그러니까 소수의 배열이 일견 불규칙적으로 보이는 이유는 수많은 규칙적 배열이 마치 파동처럼 서로 간섭하기 때문이라는 것이다. 마커스 드 사토이가 배음(overtone)의 비유를 쓸 수 있을 정도로 상황을 파악할 수 있었던 것은 리만의 천재성 때문이다. 그는 1차원의 선에서 도저히 풀 수 없을 정도로 꼬여있던 오일러의 공식을 2차원인 복소 평면에 풀어놓았다. 그렇게 하나의 차원을 더해 바라보자, 훨씬 덜 꼬인 그림이 언틋 보이게 된 것이다.
리만 가설은 현재까지 반증되지 않고 있다. 그러나 검은 백조 단 한 마리만 등장하면 '백조는 희다'는 명제는 뒤집힌다. 따라서 리만 가설은 점점 더 큰 소수에 대해 검증해보는 현재의 방식으로는 절대 증명될 수 없다. 다른 모든 귀납법에 의한 증명과 마찬가지다.
리만-제타 추측과 관련하여 저자가 성공한 두 번째 부분은 개인적인 관찰에 관한 것이다. 과연 소수라는 것이 정말 그렇게 중요한 것일까 하는 질문에 대한 생각이다. 나는 (반은 농담이지만) 이걸 홀트 추측이라 불러도 좋다고 생각한다.
소수는 제타 함수를 정의한다. 제타 함수는 영점을 정의한다. 그리고 영점들은 집단적으로 소수의 비밀을 품고 있다. 리만-제타 가설을 풀면 그런 작은 꼬리물기 과정이 완결되는지라, 소수의 '불가사의'는 '네발동물은 동물이다'라는 진술처럼 동어반복이 되고 말 것이다. 그렇다면 앞으로 100만 년까지 갈 것도 없이 그보다 훨씬 이전에 수학자들이 자신들의 집단적 플라톤주의의 꿈에서 깨어날 것이라고 나는 예측한다. (107쪽)
보이저 2호에 실린 외계인들에게 보내는 디스크 편지에는 소수가 기록되어 있다. 그만큼 소수는 '진리'의 한 부분으로 받아들여지고 있다. 외계인마저 공유할 지식이라 생각한 것이다. 그러나 소수의 신비스러움이 사라져버린다면? '그때는 아무도 소수를 우주 곳곳에 발사할 생각을 하지 않을 것이다.' (게다가 우리는 새로운 암호체계를 찾든지, 전자상거래를 포기해야 한다.)
그래서 저자는 추측한다. 100만 년 정도 지나면 유머와 수학은 자리를 바꿀 것이라고. 유머는 신비함을 감춘 경배의 대상이 되고, 소수를 위시한 수학은 저급한 농담 정도로 생각되는 그런 날이 올 수도 있다는 것이다.
2. <플랫랜드>와 n차원
에드윈 애벗의 <플랫랜드>는 몇 년 전에 나도 흥미진진하게 읽었다. 19세기에, 아마추어 탐구자에게서 이 정도의 상상력이 나오다니, 놀라울 따름이다. 이 책은 2차원의 세계에 사는 다각형들의 이야기를 다룬다. 3차원의 세계를 엿본 주인공은 체제를 위협하는 위험분자로 감옥에 갇힌다. 그에게 3차원의 세계를 보여준 것은 3차원의 세계에서 온 존재, '구'였다.
2차원의 세계의 주인공에게 '구'는 어떻게 보일까? 3차원의 구가 2차원의 '플랫랜드'를 통과하는 경우를 상상해보자. 처음에는 점이 보이고, 원이 나타나 점점 커진다, 최대 반경을 지난 원은 다시 작아져서 점으로 끝난다. 2차원 세계의 주민인 주인공에게 이것은 기적이나 다름없다.
마찬가지 방식으로 우리는 4차원을 상상해볼 수 있다. 4차원의 '초월 구'가 3차원 세계를 관통한다고 상상해보자. 우리의 눈에 처음에는 점, 그 다음에는 구가 보일 것이며, 최대의 크기를 지난 구는 다시 작아지며 점을 지나 사라져버릴 것이다. <플랫랜드>의 주인공은 자신의 유비추리를 3차원의 방문자에게 말하며 지적 희열을 느낀다. 그러나 놀랍게도, 3차원의 방문자는 헛소리하지 말라며 주인공을 힐책한다. <플랫랜드>의 선지자가 이처럼 꽉 막힌 존재라는 사실은, 애벗이 이 책을 단지 수학적 유희에서 끝내지 않으려 했다는 증거일지도 모르겠다.
애벗의 '4차원 구'는 찰스 힌튼이라는 3류 작가에게로 이어진다. 그는 <플랫랜드>의 속편을 자기 멋대로 썼는데, 그 책에서 4차원 정육면체를 '태서렉트'라고 명명했다. 내가 무슨 말을 하는지 모르겠다면, 당신은 <어벤저스> 시리즈를 보지 않은 것이다. 어쨌든 힌튼은 정육면체를 전개하여 십자가 모양의 평면을 만들 수 있듯이, 4차원인 태서렉트를 전개하여 정육면체 8개로 이루어진 3차원 십자가를 만들 수 있다고 썼다.
그 이후로 n차원의 논의는 수학의 세계에서 날개를 달고 날아올랐다. 힐베르트 공간은 무한 개의 차원을 갖고 있으며, 망델브로의 프랙털은 1.7차원이나 2.45차원 같은 소숫점 수준의 차원을 이야기한다. 손잡이 달린 머그잔과 도넛이 같은 위상을 가진다는 위상 수학의 탄생 역시 위대한 상상력의 연쇄가 가져온 결과다.
n차원의 문제는 수학에서 끝나지 않는다. 대통일이론의 총아, 끈 이론은 차원의 총수를 10개 내지 11개로 보고 있다. 그렇다면 우리가 느끼는 3차원 외의 다른 차원들은 어디에 있을까? 처음에는 3개의 공간 차원을 제외한 나머지가 미세 크기로 말려 있다는 의견이 대세였으나, 요즘에는 여분 차원들이 너무 커서 우리의 지각을 벗어난다는 이론이 다크호스로 떠올랐다. 예컨대 <호두껍질 속의 우주>에서 스티븐 호킹이 그런 이론을 지지하고 있다. 후자의 이론이 가지는 장점 중 하나는 4개의 기본 힘 중에서 왜 하필 중력만이 그토록 약한지를 설명할 수 있다는 점이다.
<플랫랜드>에서 고차원 존재가 보여준 '마술'을 역이용하면, 우리는 끈 이론이 여분으로 남긴 차원을 확인할 수 있을지도 모른다.
실제로 확인하려면, 가령 아원자 입자들끼리 서로 부딪친 다음, 충돌 과정에서 생긴 새 입자들이 여분의 차원으로 사라지는지 여부를 조사하는 방법이 있다. (239쪽)
그렇다면 우리는 왜 3차원의 세계에 존재할까? 하나의 설명은 이렇다. 3차원에서만 우주가 안정적이기 때문이다. 4차원 이상의 세계에서는 행성 궤도가 안정적일 수 없다고 한다. 그렇다면 저차원 세계는 어떨까? 플랫랜드의 주민들이 겪는 괴로움만 봐도 느낌이 오지 않는가? 2차원 이하의 세계에 사는 생물은 아마도 충분한 시냅스를 만들지 못할 것이다. 우리 뇌의 뉴런들이 2차원으로 배열되어 시냅스를 형성한다고 생각해보자. 가능한 조합의 수가 격감하는 것은 물론, 기본적인 연결만 늘어놓기에도 어마어마한 넓이가 필요할 것이다. 그렇다면 어쩌다보니 3차원이라는 얘기인데, 저자는 이것이 '인류 원리'라고 말한다.
물론 이 상황이 '인류 원리'의 정의는 아니다. 하지만 우리가 사는 세계가 3차원 공간이라는 사실은 충분히 '인류 원리'로 설명 가능하다. 4차원 이상의 공간에서는 태양도 지구도 없었을 것이며, 2차원 이하의 공간이었다면 지적 생명체가 발달하지 못했을 테니까 말이다. 우주가 마침 3차원 공간이었으므로 인류가 진화해서 이런 질문들을 던지고 있는 것이다.
3. 아름답지 못한 증명
얼뜨기 수학 애호가인 히가시노 게이고는 <용의자 X의 헌신>에서 주인공의 입을 빌어 이렇게 말한다.
"4색 문제의 풀이는 전혀 아름답지 않아."
페르마의 마지막 정리, 푸엥카레 추측과 함께 4색 문제는 아마도 가장 유명한 수학 수수께끼 중 하나일 것이다. 이들은 모두 해결되었다. 문제는, 4색 문제의 풀이가 전혀 아름답지 않다는 데 있다.
마침내 1976년 그 추측이 풀렸다는 소식이 온 세상에 전해졌다. 하지만 풀린 경위가 알려지자, 축하하는 분위기는 온데간데없고 실망과 의심, 그리고 노골적인 거부감이 들끓었다. (245쪽)
몇 년 전에 읽었던 <페르마의 마지막 정리>에서 저자는 4색 문제 역시 조감했다. 4색 문제의 풀이는 이렇게 진행되었다. 모든 지도를 가능한 경우의 수로 나누어 컴퓨터 시뮬레이션을 돌린 결과, 모든 경우에 4가지 색이면 충분하다는 것을 확인한 것이다. 그리고리 페렐만이라는 천재가 발상의 전환을 통해 풀어낸 '푸엥카레 추측', 그리고 앤드루 와일스가 '타니야마-시무라 추론'이라는 중요한 정리를 증명해서 이루어낸 '페르마의 마지막 정리'와는 너무 다르지 않은가.
'아름답지 않다'는 것은 엄밀을 추구하는 수학에 나올 말이 아닌 것 같지만 사실이다. 저자 짐 홀트는 4색 문제의 풀이가 사람들을 공분시킨 이유를 셋으로 나눠 설명하는데, 그 첫 번째가 '미학적인 이유'다. 나머지 두 가지 이유는 좀 더 현실적이다.
두 번째 이유는 4색 정리의 '증명'이 아무런 지적 통찰을 가져오지 않았다는 데 있다. 예컨대 나는 '페르마의 마지막 정리'는 아무 쓸데없는 지적 놀음에 불과하다고 생각해 왔다. 그러나 그 풀이는 모듈러 정리를 증명하면서 위상 수학에 일대 변혁을 가져왔다. 그런 통찰이 4색 문제의 풀이에는 없었다. 열심히 컴퓨터를 돌렸더니 모든 가능한 경우의 수에서 4색이면 충분했다는 데서 무슨 통찰이 따라오겠는가?
세 번째이자 가장 중요한 이유는 인식론적이었다. 하켄과 아펠이 내놓은 증명이 우리가 네 가지 색깔 추측이 참임을 안다고 주장할 근거가 되는가? (264쪽)
4색 문제는 여러 차례에 걸쳐 해결했다는 주장이 제기되었고 반박되어 왔다. 하켄과 아펠의 증명이 바로 그런 검증 절차를 거칠 수 있는가라는 문제는 보통 심각한 문제가 아니다. 컴퓨터가 풀었으니 검증도 컴퓨터에게 맡길 수밖에 없는 상황을, 과연 '해결'이라 말할 수 있는 걸까?
4. 무한
칸토르는 무한에 관한 연구로 유명한 수학자다. 무한한 집합은 자신의 부분집합 중 일부와 크기가 같다. 또한 자신으로부터 부분집합을 빼도 크기가 유지된다. 여기까지는 머릿속에서 쉽게 상상할 수 있는 내용이다. 칸토르가 더 나아간 지점은 그가 무한의 '농도'가 다를 수 있다는 점을 증명한 것이다.
칸토르에 따르면 정수와 유리수의 집합은 1대1 대응이 된다. 즉, 크기 내지는 농도가 같다. 그러나 정수 집합은 실수 집합과 1대1 대응을 하지 못한다. 실수 집합 쪽이 농도가 더 짙다. 뭐, 당연하게 보이기도 하는데, 정수 집합과 유리수 집합은 농도가 같은데 실수 집합만 농도가 더 짙다는 게 문제다. 증명은 귀류법에 기대서 가능한데, 정수 대 실수는 너무 막연하니 사람과 사물이라는 좀더 쉽게 머릿속에 그려지는 대응으로 이 문제를 살펴보자.
무한한 사람들이 있다고 가정하자. 이 사람들이 원소로 있는 집합을 그려보자. 쉽게 생각하기 위해, 사람들의 집합을 '클럽'이라고 부르겠다. 사람의 수가 무한이므로, 클럽의 수도 무한이다. 이들 클럽은 무한한 사람들 전부가 가입한 클럽부터 단 한명의 가입자도 없는 '빈' 클럽까지 모두 존재한다. (무한집합과 그 부분집합들이다.) 이제 클럽들과 사람들이 1대1로 대응된다고 가정하자.
사람들 중 일부는 자신이 실제로 멤버인 클럽과 매칭될 것이지만, 어떤 사람들은 자신이 멤버가 아닌 클럽과 매칭될 것이다. 이렇게 자신이 멤버가 아닌 클럽과 매칭된 사람들이 모인 클럽도 분명히 존재해야 한다. (무한한 크기의 집합이니까 말이다.) 이런 클럽을 '그루초 클럽'이라 부르자.
자, 이제 한 사람을 보자. '샘'이라는 사람은 '빈' 클럽(즉, 공집합)과 매칭된 사람이다. 즉 이 사람은 그 어떤 클럽에도 멤버쉽이 없다. 그런데 이 사람은 자신이 멤버가 아닌 클럽과 매칭되었으므로 '그루초 클럽'의 멤버다. 이것은 모순이다. 따라서 애초에 가정했던 사람들과 클럽들 간의 1대1 매칭은 불가능하다. 따라서 어떤 개체들의 무한보다 그 개체들이 이루는 집합의 무한이 더 크다. (또는 농도가 짙다.)
사실 이것은 쉽게 상상이 가능하다. 예컨대 a, b, c 세 개의 원소로 만들 수 있는 집합은 무려 8개나 된다. 3<8이므로 개체들의 수보다 집합의 수가 더 크다. 집합의 갯수는 원소 조합에 따라 정해지므로 원소의 갯수가 늘어나면 더 크게 늘어난다. 이것이 무한대로 확장되었으니, 상황이 더하면 더했지 덜하지 않을 것 아닌가?
플라톤의 이데아는 쉽게 머릿속으로 그릴 수 있지만 절대로 우리가 경험할 수 없는 것이다. 예컨대 삼각형은 내각의 합이 180도지만, 우리는 곡률이 있는 세계에 살고 있으므로 내각의 합이 정확히 180도가 되는 이데아적 삼각형은 절대 경험할 수 없다. 그런데 우리는 '대략적으로' 삼각형인 것은 얼마든지 경험한다. 그러나 절대로 경험 비슷한 것조차 할 수 없으면서 상상은 얼마든지 가능한 것이 무한이다. 무한은 참 재미있는 녀석인 것이다.
5. 그 다음
책 중반을 넘어가며, 저자는 다시 '말랑말랑한 얘기만 하기' 신공으로 돌아가는데, 끈이론에 관해서는 거의 아무 말도 하지 않으며 도킨스에 대해서는 그냥 무식함을 드러낸다. 튜링과 에이다 러브레이스에 관한 내용은 그냥 그들의 개인사에 관한 것이다. 크립키에 관한 챕터는 크립키의 오만하고 부정직한 성격이 주 내용이다. 나는 이 책과 동시에 읽은 <철학 vs 철학>에서도 크립키를 만났는데, 기발한 방식으로 러셀의 서술주의를 무너뜨린 크립키가 사실은 역겨운 인성의 소유자였다는 것만을 이 책을 통해 추가로 배웠다.
나이팅게일과 슈바이처를 악인 취급하는 제22장, '도덕적 성인에 관하여'에서는 피터 싱어가 주장하는 정도까지 선행을 할 필요는 없다고 말하는데, 적절한 수준의 선행을 권장하는 대목에 불과함에도 뭔가 꺼림칙한 기분을 남긴다. 피터 싱어마저도 다른 위인들과 함께 모두까기의 희생양이 되는 느낌이다. 나는 피터 싱어의 <물에 빠진 아이 구하기>를 감명 깊게 읽었으나, 피터 싱어의 입장에 동조하지는 않는다. 그러니까 저자와 같은 입장인 것이다. 그럼에도 저자의 서술법은 뭔가 석연치가 않다.
제20장, '우주는 어떻게 끝나는가'는 수학적이지도 과학적이지도 않은 글이지만 꽤 흥미롭다. 우주가 빅 크런치로 끝나든 빅 칠로 끝나든 인류 내지는 지성체에게 경험적 차이는 크지 않을 것이라는 직관이다. 우주가 특이점으로 폭발하며 끝난다면 우리는 마치 블랙홀에 빨려들어갈 때처럼 주관적 시간이 길게 늘어날 것이다. 반대로 우주가 서서히 얼어붙는다면 중력이 작아지며 주관적 시간이 빠르게 흐를 것이다.
챕터 세 개를 할애한 무한에 관한 논의도 꽤 재미있는데, 의문인 것은 무한소를 다룬 제13장에서 왜 양자역학을 거론하지 않는가 하는 것이다. 무한소의 물리적 실재성 여부와 상관 없이, 현대논리학은 무한소가 있는 우주와 무한소가 없는 우주를 구별하지 못한다고 한다. 저자는 제논의 역설이 결정적으로 반증되지 않았다고 한마디 덧붙인다.
책에는 저자 소개가 없다. 조금 검색해보니 박학다식한 과학 저널리스트라고 보면 될 것 같다. 책 서문에서 저자는 이 책이 지난 20년간 쓴 글 모음이라고 밝혔다. 책을 한 권만 썼다니 다행이라는 생각이 들면서도 왠지 시원섭섭하다. 책이 좀 중구난방이기는 해도 재미있기 때문일 것이다.
아차, 한 가지 빠뜨린 것이 있다. 우리는 거울이 상하는 그대로 놔두고 좌우만 반전시킨다고 생각한다. 사실은 그게 아니라 그냥 앞뒤가 뒤집힌 것뿐이다. 앞뒤가 뒤집힌 것을 보고 우리는 상하가 그대로인 채 좌우가 반전된 상을 보고 있다고 착각하는 것이다. (물론 이런 착각을 하는 배경은, 우리의 생김새가 상하대칭은 아니지만 좌우대칭이기 때문이다.) 하긴, 우리가 착각하는 것이 뭐 한두 가지여야 말이지.
