brunch

밀레니엄 세븐, 그리고 다른 악당들

[책을 읽고] 이언 스튜어트, <위대한 수학문제들>

by 히말

이 책은 푸엥카레 정리, P-NP 문제, 4색 정리 등 유명한 수학 문제들에 대해, 이전에 나온 교양 수학서들보다 한 걸음 더 나아간다. 교양 수학, 물리학에서 압도적인 설명력을 보여주는 이언 스튜어트의 책 답다.


예컨대 4색 정리의 경우, 6색 정리까지는 완전히 설명되어 있다. 그 한 걸음은 참으로 어렵지만, 그만큼 보람이 있다.


World_map_with_four_colours.svg.png 지구는 된다


6색 정리의 증명


6색 정리를 복기해 보겠다. (시간이 없다든가 하는 정당한 이유가 있다면 이 부분은 건너 뛰시기를 추천한다.)


n가지 색으로 칠할 수 없는 지도를 '범인'이라고 부르자. 범인들 중에 가장 적은 수의 국가를 포함한 지도를 '최소한의 범인'이라고 부른다. 범인이 존재한다면 당연히 최소한의 범인도 존재한다. 이와 동치인 명제, 즉 대우는, 최소한의 범인이 존재하지 않는다면 범인 역시 존재하지 않는다, 가 된다.


최소한의 범인이 없다면, 범인도 없는 것이고, 이 경우 (범인의 정의에 따라) n색 정리는 참이다.


만약, 최소한의 범인보다 더 작은 모든 지도를 n색으로 칠할 수 있다면, 최소한의 범인 역시 n색으로 칠할 수 있다는 명제를 증명할 수 있다고 가정해 보자. 이것이 사실이라면, 최소한의 범인은 사실 범인이 아니다. 따라서, 최소한의 범인은 존재하지 않으며, n색 정리는 참이다.


이 방법은 분명히 '아름다운' 증명이다. (히가시노 게이고도 불만이 없을 것이다.) 바로 이 아름다운 방식으로, 6색 정리까지는 증명이 가능하다. 바로 그 6색 정리 증명이 이 책에 나와 있다.


0단계. 일단, 6가지 색으로도 칠할 수 없는 최소한의 범인을 상상하자. 다시 말해, 이 지도는 6색으로 칠할 수 없지만, 이보다 작은 (더 적은 나라를 포함하는) 모든 지도는 6색으로 칠할 수 있다.


1단계. 이 지도에서 "모든 나라"가 6개 이상의 이웃을 가지는 것은 불가능하다. (증명은 책의 각주 34를 참조하자. 오일러 공식만 참고하면 이해할 수 있는 비교적 간단한 증명이다. 밀리 PC앱이 이 책, <위대한 수학 문제들>만 켜면 다운되는 고집을 부리지 않았다면 복붙해 넣었을 텐데, 안타깝다.)


2단계. 1단계가 사실이므로, 이 지도에는 이웃이 5개 이하인 나라가 적어도 하나는 존재한다. 이 나라를 지워보자. (사실 나라-국경보다 점-연결선으로 바꾸어 생각하는 것, 즉 네트워크 방식으로 생각하는 것이 더 쉽다.) 이 지도는 0단계, 즉 이 지도가 최소한의 범인이라는 정의에 따라, 6색으로 칠할 수 있다. 6색으로 칠해 보자.


3단계. 6색으로 칠해진 이 지도에, 아까 지웠던 그 나라(점)를 되돌려 놓자. 2단계에서 이 나라는 5개 이하의 국가에 접해 있었다. 따라서, 이 나라는 인접한 5개 나라의 색깔과 다른 색깔로 칠하는 것이 가능하다. 다시 말해, (지웠던 나라를 다시 돌려 놓은) 이 지도 역시 6색으로 칠할 수 있다! 즉, 최소한의 범인이 아니다.


4단계. 최소한의 범인과 범인의 관계에 따라, 최소한의 범인이 존재하지 않으므로 범인 역시 존재하지 않는다. 즉 모든 지도는 6색으로 칠할 수 있다. QED. (아, 이 말을 해보고 싶었다.)


힘이 난다. (4장 중에서)


책에서 6색 정리를 증명하고 난 다음에 등장하는 문장이다. 이때까지만 해도, 수학자들은 다른 아름다운 정리들처럼, 오일러 정리처럼 완벽하지는 않아도 아름다운 증명이 가능하다고 생각했을 것이다. 컴퓨터의 도움을 받아 수많은 시나리오를 하나씩 점검해야 할 것이라 생각하지는 않았을 것이다.


Perelman-and-his-mother.jpg


힘이 나다가 빠지게 만드는 책


그러나, 4색 정리에 대한 "아름다운 증명"에 대한 희망을 아직도 놓지 않은 수학자들이 있다. 곡률을 이용하여 4색 문제를 해결하겠다는 것인데, 4색 문제는 위상 수학과 관련이 있고, 곡률에 관한 대마왕 문제였던 푸엥카레 추측이 증명되었으므로, 희망을 가질 법도 하다.


푸엥카레 추측은 그리고리 페렐만에 의해 푸엥카레 정리가 되었으며, 그의 필즈상 거부로 인해 엄청 유명해졌다. 푸엥카레 정리 하나에 관해서만 쓴 책들도 이미 여럿 나와 있으며, 나도 두어 권 정도 읽었다.


당연한 얘기지만, 나는 푸엥카레 정리가 대략 어떤 내용인가만을 알 뿐이다. P-NP 문제는 다른 밀레니엄 악당들에 비해 잘 알려져 있는 편인데, 일단 이게 어떤 문제인지까지는 어느 정도 이해가 되기 때문이다. 나비에-스토크스 방정식이나 BSDC쯤 되면 이게 무슨 얘기인지 감도 안 잡히고, 호지 추측은 뭐, 할 말이 없다.


이언 스튜어트는 호지 추측을 책의 맨끝에 배치했는데, 나비에-스토크스나 BSDC까지만 해도 문제 소개에 더해 그 이후의 설명이 조금이라도 있는 반면, 호지 추측에 대해서는 오직 이 문제가 무엇인지만을 설명하고 있으며, 그것만으로도 분량이 차고 넘친다.


9788996914655.jpg


수학 난제는 끝이 없다


유명한 문제들을 모두 설명한 다음, 이언 스튜어트는 그외에 관심가질 만한 문제 12개를 소개한다. 우박 추측이나 완전수 문제와 같이, 어디에선가 이미 들어본 문제도 있지만, 대개는 (당연하지만) 처음 들어보는 것들이다. 그런데 오일러 상수가 유리수인지 무리수인지 아직도 모른다는 사실은 좀 충격적이다. (지금 이 시대에?)


부록처럼 느껴지는 제17장에서 가장 돋보이는 것은 단연 ABC 추측이다. 페르마의 마지막 정리에서 1제곱인 경우를 살펴보자는 것이다. 사실 여기까지만 말하면, 충격적이기는 해도 곧 말장난이라는 걸 알게 된다. 이 추측의 핵심은 정수와 다항식 사이의 느슨한 유사성이 핵심이다. 다시 말해, a + b = c가 되는 정수해가 존재하냐는 (당연한) 얘기가 아니라, 이 세 개의 항이 (정수가 아니라) 다항식일 때 성립하느냐는 것이다.


(쉽게 알 수 있듯) 이건 엄청난 얘기인데, 이게 만약 성립한다면


지난 수십년 동안 어마어마한 통찰과 노력으로 증명되었던 심오하고 어려운 수많은 정리에 새롭고 간단한 증명이 생기게 될 것이다. (17장 중에서)


2012년 일본의 한 수학자가 ABC 추측을 증명했다고 주장했다. 현재 그의 증명을 수학자들이 검증하고 있는데, 아마도 오랜 시간이 걸릴 것 같다고, 이언 스튜어트는 말한다. 페르마의 마지막 정리, 그리고 푸엥카레 추측 증명 검증에 걸린 시간을 생각해 보자. 그런데 이미 10년이 지났는데? (이 일본 수학자, 검색해 보니 문제가 아주 많은 인물이다. 논리의 미약한 고리를 지적하면, 그건 네가 머리가 나빠서 이해하지 못하는 것이지 당연한 것이라고 대답한다고 한다.)


92782_310869_5113.jpg


수학을 경외하는 수포자의 넋두리


인식론의 입장에서 생각해 보면, 수학은 단지 하나의 닫힌 계(system)로서, coherence theory에 의해 진리가 '보증'된 집합 명제일 뿐이다. 다른 말로 하자면, 동어반복이라서 참이다.


세상의 참 모습은 무엇인가? 인류의 오랜 이 질문에 대한 답으로서 가장 멀리 간 것은 물론 물리학이다. 수학은 그 과정에서 어마어마한 공헌을 했다. 그러나 절대 다수가 지지하는 현대 물리학의 통설, 즉 람다-CDM은 어쩌면 그냥 단순한 거짓으로 판명될 수도 있다. 에테르와 플로지스톤이 그랬듯 말이다. 그렇게 된다 해도, 수학은 문제 없다. 다시 말하지만, 수학은 그저 동어반복의 뭉텅이일 뿐이니까.


그 뭉텅이를 가지고, 인류는 시간이 끝날 때까지 놀이를 반복할 것이다.


2025년 1월 7일, 좋아하는 카페에 앉아 눈 내리는 밖을 쳐다 보다


keyword
매거진의 이전글주간 메모 - 2025년 2월 첫째 주