'페르마의 마지막 정리‘ (1)

수학의 난제들, 제1장 이쯤에서 끝내는 게 좋겠습니다

수학의 난제들

수학에는 '아직도' '풀리지 않은' 난제들이 많다. ‘아직도’란 짧게는 몇 십 년에서 몇 백 년에 걸쳐 현재까지 아무도 풀지 못했지만 '절대 풀 수 없는 걸로 확인되지는 않았다'는 의미이고, ‘풀리지 않았다’는 것은 ‘추측이나 가설이 어느 경우에나 항상 맞다는 완전한 증명을 해 내지 못했다’는 것을 의미한다.

독일의 위대한 수학자인 다비드 힐베르트(David Hilbert)는 1900년 프랑스 파리에서 열린 세계 수학자 대회에서 20세기에 풀어야 할 가장 중요한 수학 문제 23개(힐베르트의 문제'Hilbert's Problems')를 제안했다. 현재 이 중 10개는 풀렸지만, 9개는 일부만 풀렸으며, 아직도 4문제는 풀리지 않고 있다(그중에는 소수(素數) 분야에서 너무나 유명한 ‘리만 가설’도 포함되어 있다).

힐베르트의 23가지 문제

[힐베르트, 출처 구글 이미지]

그로부터 다시 100년 후 21세기가 시작하는 2000년 5월 24일에는 클레이 수학연구소(Clay Mathematics Institute, CMI, 1998년에 설립된 미국 매사추세츠주 케임브리지 지방에 있는 사설 비영리 재단)가 각 문제당 100만 달러씩을 걸고, 21세기 사회에 가장 크게 공헌할 수 있지만 아직까지 풀리지 않은 미해결 수학 문제 7개를 발표하였다(소위 ‘밀레니엄 문제’, Millennium Prize Problems).

이 7개의 밀레니엄 문제는, 1) P-NP 문제, 2) 호지 추측, 3) 푸앵카레 추측, 4) 리만 가설, 5) 양-밀스 질량 간극 가설, 6) 나비에-스토크스 방정식, 7) 버치-스위너턴다이어 추측인데, 이 중 '리만 가설'만 힐베르트의 23문제와 겹친다.

밀레니엄 문제

리만 가설은 '가우스'의 수제자인 독일의 수학자 베른하르트 리만(Georg Friedrich Bernhard Riemann)이 불규칙하게 등장하는 소수의 밀도의 규칙을 밝히려는 이론으로, “리만 제타 함수를 0이 되게 하는 자명하지 않은 모든 복소수 근의 실수부가 ½이다”라는 추론이다.

이에 대해 힐베르트는 이런 말을 했다고 전해진다. "만약 내가 1,000년 동안 잠들어 있다가 깨어난다면 아마 제일 먼저 이렇게 물을 것이다. 리만 가설은 증명되었습니까?"

[리만과 리만 제타 함수 그래프 출처 구글 이미지]

푸앵카레 추측 해결

이 밀레니엄 문제들 중에서 현재까지, 현대 위상수학에서 가장 중요하고 어렵다고 여겨지던 ‘푸앵카레 추측(Poincaré conjecture)만 2003년 러시아의 그레고리 페렐만(Grigori Yakovlevich Perelman)이 미분기하학의 방법으로 100년 만에 증명하였을 뿐이고(그래서 이제는 '푸앵카레-페렐만 정리'(Poincaré-Perelman theorem)가 되었다), 나머지 문제들은 아직까지도 미해결 상태로 남아 있다.

[좌: 푸앵카레 우: 프앵카레가 추측한 우주의 유형 8가지 출처 구글 이미지]

그런데 페렐만은 밀레니엄 상금 100만 달러를 거부하면서 “내가 우주를 제어하는 법을 알고 있는데 어떻게 백만달러에 연연해 하겠는가(I know how to control the universe. Why should I run for a million?)“라고 했다고 하며, 수학계의 노벨상으로 불리는 필즈상 수상도 거부하고(페렐만이 학계에서 마음의 상처를 많이 입어 학계와의 접촉을 피하고 싶었기 때문이라는 이야기가 있다) 러시아에서 혼자 노모를 모시고 살고 있다고 한다;;;

[페렐만의 프앵카레 추측 증명 강의 출처 구글 이미지]

이렇게 수학계가 큰 상금을 걸고 이런 문제들을 발표하는 것은, 많은 수학자들이 중도에 포기하지 않고 평생을 바쳐 이런 문제들을 풀게 만들고 그 과정에서 새로운 이론과 방법론이 발견되면서 그로 인해 수학의 큰 발전이 이루어졌다고 보기 때문이라고 한다.

페르마의 마지막 정리

그런데 밀레니엄 문제 이전에, 이와 같이 큰 상금이 걸려 있었지만 수백 년에 걸쳐 풀리지 않았던 난제가 있었는데 그것이 바로 그 유명한 《페르마의 마지막 정리》(Ferma’s Last Theorem)이다.

이 정리는 1637년 페르마가 자신이 공부하던 ‘디오판토스’의 《아리스메티카(Arithmetica)》 제2권의 여백에 남겨 놓았던 것인데, 페르마가 그 정리와 함께 적어 놓은 그 유명한 “나는 이에 대한 실로 놀라운 증명법을 발견했다. (하지만) 여백이 부족하여 이를 적지 않겠다”라는 메모로 인해 더욱 화제가 되었다.

이 메모는 워낙 유명해져서 여러 곳에서 많이 인용되기도 하고 패러디도 많이 나올 정도로 수학자가 아닌 일반인들에게도 널리 알려진 이야기이기도 한데, 1990년대 뉴욕 8번가 지하철 역 벽에는 다음과 같은 패러디가 적혀 있었다고 한다.

"나는 놀라운 방법으로 페르마의 마지막 정리를 증명했다. 그러나 지하철이 오고 있어 여기에 적지는 않겠다."

[‘원피스’에서 페르마의 마지막 정리가 나오는 장면]

이 메모가 알려진 후 300년이 넘도록 수많은 위대한 수학자들이 이 정리를 증명하기 위해 도전했다가 실패하였는데, 영국의 앤드루 존 와일즈 경(Sir Andrew John Wiles)이 1994년, 페르마의 메모가 발견된 지 357년 만에 극적으로 이 정리를 증명해 냈다.

《페르마의 마지막 정리》는 물리학자이자 과학 기자인 ‘사이먼 싱’이 이 앤드루 와일즈의 증명 과정에 관해 1997년에 쓴 책이다. 초반부에는 피타고라스를 비롯한 위대한 수학자들에 관한 이야기를 재미있게 풀어놓은 뒤, ‘페르마의 메모’가 발견된 이후 많은 위대한 수학자들이 평생을 바쳐가며 이 정리의 증명에 조금씩 다가갔지만 결국은 모두 좌절했던 이야기들을 다루고 있다.

그리고 후반부에서는 앤드루 와일즈가 이 문제를 증명하기 위해 도움을 받았던 여러 이론들에 관한 이야기와 엔드루 와일즈가 마지막에 난관에 부딪혔다가 극적으로 해결해 낸 과정을 다루고 있다. 전체적으로는 일반인도 이해할 수 있을 정도로 쉽게 설명하면서도 아주 흥미롭게 풀어낸 최고의 수학 관련 교양서로 평가받고 있다.

[사이먼 싱 출처 구글 이미지]

제1장 이쯤에서 끝내는 게 좋겠습니다

아이스킬로스(Aeschylos, B.C. 525~456. 고대 그리스 3대 비극 시인 중 한 사람)가 사람들의 기억에서 잊혀진다 해도 아르키메데스(Archimedes, B.C. 278?~212, 고대 그리스 자연과학자)는 영원히 기억될 것이다. 언어는 사라지지만, 수학적 아이디어는 끝까지 살아남을 것이기 때문이다. ‘영원불멸'한 것은 실제로 존재하지 않으나, 수학자들은 이 단어에 가장 근접한 사람들이라고 할 수 있다.
- 하디(G, H. Hardy, 1877~1947)

1993년 6월 23일, 케임브리지

그것은 금세기 들어 가장 기억될 만한 수학 강연이었다. 200여 명의 수학자는 마치 얼어붙은 듯 미동도 않은 채 자리에 앉아 있었다. 칠판에 빽빽하게 쓰인 난해한 수식을 완전히 이해하는 사람은 그들 중 4분의 1에 지나지 않았다. 나머지 청중은 그저 역사에 길이 남을 강연의 현장에 참석하는 것만으로도 만족하는 것 같았다.

소문은 강연 전날부터 사방에 퍼져 있었다. 전 세계적으로 널리 알려져 있었던 그 악명 높은 《페르마의 마지막 정리(Fermat’s Last Theorem)》가 오늘 이 강연회장에서 드디어 증명된다는 소식이 인터넷 전자우편을 통해 떠돌았던 것이다. 이번에는 지난 300여 년 동안 지구상의 내로라하는 수학자들을 무던히도 괴롭혀왔던 그 악명 높은 수학정리가 비로소 증명될 것이라는 데에 아무도 이의를 달지 않는 분위기였다.

강연자의 이름은 앤드루 와일즈였다. 그는 내성적인 성격의 영국인으로 1980년대에 미국으로 이주하여 프린스턴 대학 교수가 되었고 당대의 가장 뛰어난 수학자라는 명성을 얻은 천재적인 수학자였다. 그러나 최근 수년 동안 그는 모든 학회 활동과 세미나를 그만두고 사람들 앞에 모습을 드러내지 않았다. 그래서 동료들은 와일즈의 연구 인생이 끝장났다고 생각했다.

요절한 수학 천재들

수학계에서는 천재성을 발휘하다가 요절한 수학자들이 많다. 케임브리지 대학교 수학과 교수 하디는 그의 저서 《수학자의 변명(A Mathematician’s Apology)》에서 이렇게 적고 있다. “젊은 수학자는 정리를 증명하고, 늙은 수학자는 책을 쓴다. 다른 과학 분야와는 달리 수학이라는 학문은 젊은 학자들의 전유물이다. 일례로 영국 학술원(Royal Society) 회원들 중 회원으로 선출되던 시기의 평균 연령을 살펴보면 수학자들의 나이가 가장 젊다.“

그 중 하디의 가장 뛰어난 제자였던 인도 출신 '스리니바사 라마누잔'(Srinivasa Ramanujan, 그의 이야기가 영화화('무한대를 본 남자')가 되어 더욱 유명해졌다)은 인도 빈민가에서 태어나 정규 교육을 받지 않고 방 구석에 돌아다니던 오래된 수학책으로 독학을 했다고 한다.

이후 제대로 된 수학공부를 하고 싶어 자신의 수학 노트를  영국 대학들에 보냈는데, 그 천재성을 알아본 '하디'교수에 의해 케임브리지 대학교에 초청받았다. 이후 라마누잔은 케임브리지에서 수학적 분석, 정수론, 무한급수, 연속분수 등에 상당한 기여를 하여 31세에 영국 학술원 회원으로 선출되었으나 인도로 돌아갔다가 33세에 결핵으로 사망하였다.

[좌: 라마누잔 우: 하디 출처 구글 이미지]

[라마누잔의 이야기를 다룬 영화 '무한대를 본 남자']

또한 노르웨이의 '닐스 헨리크 아벨'(Niels Henrik Abel)은 19세에 타원함수•적분 방정식과 5차 방정식의 대수적 불능 문제를 연구하였고, 대수함수론의 기본 정리인 아벨-루피니 정리를 발표하였으나 8년 후 결핵으로 사망하였다. 샤를 에르미트(Charles Hermite)는 아벨에 대하여 이렇게 말했다. “그가 수학계에 던진 문제는 적어도 앞으로 500년간 수학자들의 연구 대상이 될 것이다.”

아벨과 비슷한 시기에 살았던 또 한 명의 천재, 프랑스의 '에바리스트 갈루아'(Évariste Galois)는 10대 시절에 수학의 오랜 난제였던 5차 이상의 고등 다항식을 거듭제곱근의 해로 나타낼 수 있는지 판별하기 위한 필요충분조건을 밝혔고, 그의 연구는 추상대수학의 주요 분야인 '갈루아 이론'과 '군론'의 기반이 되었으나, 결투로 21세에 요절하였다.

이런 사례들에서 보듯, 천재적인 아이디어는 젊은 나이에 떠오른다는 게 당시 수학계의 정설이었기 때문에 와일즈의 증명에 대해 회의적으로 생각하는 사람들도 많았다고 한다. 외부와 완전히 차단된 상태에서 연구한다는 것은, 말할 것도 없이 커다란 위험을 감수해야 하는 일이다. 수학 역사상 지금까지 이런 전례는 단 한 번도 없었다.

[좌: 아벨, 우: 갈루아, 출처 구글 이미지]

[갈루아가 결투 전날 남겨놓은 수학 메모, 출처 구글 이미지]

최후의 문제

와일즈는 1963년 열 살 때 우연히 밀턴 가의 도서관에서 ‘에릭 템플 벨’의 《최후의 문제》라는 책에서, "페르마가 무심코 던진 이 질문 하나가 300여 년간 수학자들을 괴롭히고 있다"는 이야기를 읽고 어린 나이에 언젠가는 이 문제를 풀겠다는 꿈을 갖게 되었다고 한다. 이 문제는 언뜻 보기에는 아주 쉬워 보였는데, 누구나 다 아는 그 유명한 <피타고라스의 정리>에서 파생된 문제였기 때문이다.

[에릭 템플 벨의 ‘최후의 문제’와 피타고라스의 정리 출처 구글 이미지]

피타고라스

피타고라스는 수학 역사상 가장 위대하면서도 자신이 직접 저술한 책이 한 권도 남아 있지 않아 신비에 싸인 인물인데, 다만 확실한 것은 그가 수이론의 창시자이며 고대의 ‘수학 황금기’를 구축했던 위대한 학자라는 사실 뿐이다.

저자는 먼저 피타고라스가 기원전 6세기에 에게해의 사모스 섬에서 태어나서 30년간 고대 도시 각지를 여행하며 수학적 능력을 쌓아나간 이야기, 그리스의 크로톤(현 이탈리아의 ‘크로토네’)에 정착하여 '밀로'(Milo, 당대 최고의 부자였는데 체력도 엄청나 올림픽과 델포이 경기에서 열두 번이나 우승하였다고 한다)의 후원을 받아 ‘피타고라스 학회’(Pythagorean School)를 창설한 이야기를 한다.

당시 피타고라스 학회에는 600명이 넘는 제자들이 모여 들었고, 피타고라스는 밀로의 딸이자 제자였으며 최초의 그리스 여성 수학자로 인정받는 ‘테아노(Theano)’('황금분할의 법칙'을 정립했다고 한다)와 결혼하였다. 당시 고대 올림픽을 관전하던 프리우스의 왕자 레온이 피타고라스에게 “스스로를 어떤 사람이라고 생각하느냐”라고 묻자 피타고라스는 “나는 철학자입니다”라고 대답한 뒤 ‘철학자’에 대해 다음과 같이 설명하였다.

“레온 왕자여, 인생이란 지금 당신이 보고 있는 운동경기와 비슷합니다. 어떤 이는 재물을 구하는 일에 몰두하고 또 어떤 이는 명예와 영광을 얻으려는 야망에 빠지기도 합니다. 그러나 그들 중에는 지금 눈앞에서 벌어지고 있는 모든 것을 주의 깊게 바라보면서 이해하려고 애쓰는 사람들도 있습니다. 이들 중 가장 현명한 이는 삶 자체의 의미와 목적을 탐구하는 사람들입니다. 완전무결한 현자란 있을 수 없겠지만, 이들이 바로 ‘철학자’입니다. 그들은 지혜를 사랑하고, 자연의 비밀을 탐구하는 열정을 귀하게 여기는 사람들입니다”

[라파엘로의 ‘아테네 학당’ 왼쪽 하단이 피타고라스, 가운데가 플라톤과 아리스토텔레스, 오른쪽 하단이 유클리드 출처 구글 이미지]

완전수와 친화수

피타고라스가 추구한 이상향은 ‘수(number)’였고 숫자들 사이의 관계를 이해함으로써 우주의 영적인 비밀을 알아내고 신에게 더욱 가까이 갈 수 있다고 믿었다고 하며, 특히 자연수와 분수(총칭하여 ’유리수‘)에 깊은 관심을 가지고 있었다고 한다.

당시 피타고라스 학회 회원들은 '완전수'(자신을 제외한 약수의 합과 일치하는 수)로서 가장 작은 수는 6이고 그다음은 28이며, 496, 8128 등으로 점점 그 간격이 엄청나게 벌어진다)의 연구에 매료되어 있었다고 한다. 또한 완전수와 비슷한 ‘친화수’(한 쌍의 수로서, 한 수의 약수들을 모두 더한 값이 나머지 수와 같아지는 경우, 220과 284)를 발견하기도 하였다고 한다.

[일본 영화 ’박사가 사랑한 수식‘ 초반에 ‘완전수’와 ‘친화수’(일본에서는 ‘友愛数’라고 한다)에 대해 설명하는 장면]

6과 28의 완전성을 인정한 사람은 피타고라스 학회의 회원들만이 아니었다. 이와는 다른 시대, 다른 문화권에 살던 사람들도 ‘달의 공전주기는 28일이며, 신은 6일 만에 세상을 창조했다.’는 식으로 완전수에 나름대로 의미를 부여했다. 성 아우구스티누스(St. Augustine)는 자신의 저서 《신국론(The City of God)》에서 “신은 이 세상을 한순간에 창조할 수도 있었지만 우주의 완전함을 계시하려고 일부러 6일이나 시간을 끌었다.”고 적고 있다.

아우구스티누스는 6이라는 숫자가 ‘신이 선택했기 때문에’ 완전한 것이 아니라, 원래부터 완전함을 내포하고 있다고 생각했고, 다음과 같이 주장했다.

“신이 이 세상을 6일 동안 창조했기 때문에 6이라는 숫자가 의미를 갖는 것은 아니다. 6은 그 자체로 이미 완전한 수이다. 따라서 ‘신이 6일 동안 세상을 창조한 이유는 ‘6’이 완전한 숫자였기 때문이다.’라고 표현해야 한다. 신의 창조물인 이 세상이 모두 사라진 뒤에도 6은 여전히 완전한 숫자로 남아있을 것이다.”

모든 것은 수(數)이다

피타고라스는 ‘수와 자연과의 관계’에도 지대한 관심을 보였는데, ‘자연 현상을 지배하는 모종의 법칙이 분명히 존재하며, 이 법칙들은 수학 방정식으로 표현할 수 있다’고 생각했다고 한다.

피타고라스에 대해 아홉 권의 책을 저술했던 4세기의 철학자 '이암블리코스'(Iamblichos)에 의하면, 피타고라스는 우연히 대장간 앞을 지나다가 쇠를 두드리는 망치 소리를 듣고 망치의 화음을 분석하였으며, 결국 음악의 모든 화성이 간단한 정수비(분수)로 이루어진다는 심오한 진리를 터득하게 되었다고 한다.

언젠가 피타고라스는 청력을 보완해 주는 보청기라는 물건을 자신이 과연 만들 수 있는지에 대하여 깊은 생각에 잠겼다. 그가 생각하는 보청기는 컴퍼스나 자, 또는 광학기계들처럼 ‘역학적인’ 물건이었다. 촉각의 세기에서 물체의 ‘무게’라는 개념이 탄생한 것처럼, 그는 귀로 듣는 소리 역시 숫자로 정량화할 수 있다고 생각했을 것이다. 어느 날 그는 우연히 대장간 앞을 지나다가 쇠를 두드리는 망치 소리를 들었다. 그 소리는 반향음과 어우러져 불규칙한 잡음처럼 들렸으나, 거기에는 단 하나의 조화로운 화음이 섞여 있었다. 신이 그에게 행운의 미소를 던진 것이다.

피타고라스는 물리적 현상을 지배하는 수학 법칙을 찾아낸 최초의 인간이다. 수학과 과학 사이에 결코 뗄 수 없는 근본적 상관관계가 존재하고 있음을 증명한 것이다. 이 발견이 있은 뒤로 과학자들은 아무리 사소한 물리적 현상이라 해도 그것을 지배하는 수학 법칙을 찾아내려고 애를 썼으며, 그 결과 모든 자연 현상을 ‘수’로 표현할 수 있다는 충격적인 사실이 서서히 세상에 알려지기 시작했다.

그는 우주 내에서 일어나는 모든 현상을 서술할 수 있는 수학적 언어를 개발하기 위해 모든 힘을 기울였다. 그 이후로, 수학상의 획기적인 발전이 이루어질 때마다 과학자들은 자연 현상을 더욱 훌륭하게 서술할 수 있는 새로운 어휘를 얻게 되었다. 수학의 발전이 과학혁명을 불러온 것이다.

아이작 뉴턴은 만유인력 법칙을 발견한 불세출의 물리학자였지만, 동시에 천재적인 수학자이기도 했다. 그는 미적분학을 완성하여 수학사에 위대한 업적을 남겼다. 후대의 물리학자들은 중력 법칙에 관련된 문제들을 해결하면서 미적분학의 덕을 톡톡히 보았다. 뉴턴의 고전적 중력이론은 아인슈타인이 일반상대성이론을 발표할 때까지 무려 250년 동안 확고부동한 진리로 자리를 굳혀왔다.

일반상대성이론은 중력의 성질을 더욱 구체적으로 규명했는데, 이것은 중력 현상을 이해하는 ‘또 하나의’ 방법이라고 할 수 있다. 아인슈타인이 새로운 아이디어를 제시할 수 있었던 것은 복잡 미묘한 과학적 아이디어를 구현해 주는 고등수학이 그때 이미 개발되어 있었기 때문이다.

최근 활발하게 연구되고 있는 양자중력이론(quantum theories of gravity)은 수학적 끈이론(string theory)의 발달에 힘입어 자연계에 존재하는 다른 힘들(전자기력, 약력, 강력)과 함께 하나의 통일된 논리를 바탕으로 연구되고 있으며, 이 이론은 자연계에 존재하는 힘들의 기하학적・위상학적 특성에 초점을 맞추고 있다.

피타고라스의 정리와 수학적 증명

피타고라스 학회의 회원들이 가장 중점을 두었던 문제는 스승의 이름을 딴 <피타고라스의 정리>였다. 이 정리는 모든 직각삼각형이 만족하는 하나의 방정식을 제시하므로, ‘직각’을 정의하는 가장 이상적인 방법이다. 또한 직각은 수직성, 즉 수평과 수직 사이의 관계를 정의하고, 나아가 우리가 살고 있는 3차원 공간의 특성을 정의하는 데에도 사용된다. 결국 이 정리를 통해 정의된 ‘직각’은 공간의 기하학적 구조를 정의하는 매우 중요한 요소가 된다.

피타고라스의 정리에 관해, 중국인들과 바빌로니아인들은 이미 1000년이나 앞선 시기에 이 정리를 일상 속에서 응용하고 있었지만 이 정리가 직각삼각형에 적용된다는 사실을 몰랐다. 그들이 직접 측정했던 직각삼각형은 분명히 앞에서 서술한 성질을 지니고 있었지만, 측정을 해보지 않은 다른 직각삼각형들도 모두 같은 성질을 만족하는지는 확인할 길도, 증명할 수도 없었다.

피타고라스의 주장에 ‘정리(theorem)’라는 이름이 붙은 것은 직각삼각형의 이러한 성질이 일반적으로 성립한다는 사실을 그가 처음으로 증명했기 때문이다. 그렇다면 피타고라스는 자신의 정리가 모든 종류의 직각삼각형에 적용된다는 것을 어떻게 알 수 있었을까? 피타고라스는 ‘수학적 증명’이라는 개념을 통해 자신의 정리가 절대적 진리임을 100% 확신한 것이다.

[좌: 기원전 10세기 중국 수학책의 ‘구고현의 정리’ 출처 위키피디아, 우: 피타고라스의 증명]

엄밀한 증명

고전적인 수학적 증명은 몇 개의 공리(公理, axiom)에서 출발한다. 공리란 ‘사실이라고 가정할 수 있는’, 또는 ‘그 자체로 사실임이 분명한’ 수학적 명제를 말한다. 이 공리에서 시작하여 단계별로 논리를 전개해 나가면서 아무런 무리 없이 결론에 도달해야만 비로소 하나의 수학적 증명이 완성된다. 공리에 아무런 결함이 없고 논리에 모순이 없으면 내려진 결론은 수학적 진리로 받아들여진다. 이렇게 얻어진 결론이 바로 정리(定理, theorem)이다.

‘수학적 증명’ 개념은 일단 증명이 성공적으로 이루어지면 그것은 이 세상이 끝나는 날까지 진리로 남는다. 수학적 증명은 그만큼 완벽한 것이다. 이는 ‘근사적인 개념’에서 출발해서 계속 송두리째 뒤집히기도 하는 과학이론들과 비교된다. 이 점에 대하여 버트런드 러셀(Bertrand Russell)은 다음과 같이 서술하고 있다. “역설처럼 들리겠지만, 모든 종류의 ‘정확한’ 과학이론들은 예외 없이 ‘근사적인 개념’에서 출발한 것이다.”

아래의 ‘귀퉁이가 잘려나간 체스판’ 문제를 예를 들면, 과학자에게 이 문제가 주어졌다면, 그는 수 백가지의 다른 방법으로 체스판을 덮어나가 보지만 모두 실패하고 만다. 그 결과 과학자는 충분한 증거가 있다고 믿고 “주어진 체스판은 검은 조각으로 모두 덮을 수 없다.”고 주장한다. 하지만 수학자라면 그런 찜찜한 주장은 하지 않는다. 그는 논리적 사고를 통해 의심의 여지가 없는, 그리고 영원히 진실로 남을 수 있는 결론을 유추해 내려고 할 것이다.

저자는 피타고라스가 피타고라스 학회에 들어오지 못해 앙심을 품은 ‘실론’의 보복으로 안타깝게 불길 속에서 최후를 맞이한 이야기와 살아남은 소수의 제자들이 학교를 설립하여 학생들에게 피타고라스의 논리적 증명법을 계속하여 가르쳐 나간 이야기를 이어간다.

피타고라스의 삼각수

피타고라스의 제자들이 가르친 내용 중에는 ‘피타고라스의 삼각수’, 즉 피타고라스의 방정식 "x² + y²= z²"를 만족하는 세 개의 정수라는 것이 있었는데(예를 들어 x=3, y=4, z=5), 그들은 이러한 삼각수가 무한히 많다는 사실을 수학적으로 증명하는데 성공을 거두었다고 한다.

그런데 이후 수학자들이 지수 n이 3보다 클 경우에도 "xⁿ + yⁿ = zⁿ"를 만족시키는 정수해가 있는지 찾아보려고 하였으나 모두 실패하였는데, 페르마는 아예 “이러한 정수해는 존재하지 않는다”고 단정하였다고 한다. 하지만 그는 그에 대한 증명을 남기지 않았기 때문에 이후 300년 동안 위대한 수학자들이 이 문제에 매달려 유실된 증명을 재현하려고 애썼지만 모두 실패하였다.

앤드루 와일즈가 열 살 때 벨의 《최후의 문제》에서 이 안타까운 이야기를 읽고 이 문제를 풀겠다는 꿈을 키운 지 30년의 세월이 흐른 지금, 드디어 와일즈는 자신의 증명을 세상에 알릴 준비가 되었다. 아이작 뉴턴 연구소의 대형 강의실 칠판에 수식을 휘갈겨 쓰던 그는 환희에 가득 찬 표정으로 잠시 청중을 둘러보았다. 강의는 절정의 순간을 향해 치닫고 있었으며 청중도 그것을 느끼고 있었다.

와일즈는 한 손에 분필을 든 채 다시 칠판을 향해 돌아섰다. 칠판에 마지막으로 휘갈긴 몇 줄의 수식—그것으로 증명은 끝났다. 300여 년 만에 드디어 페르마의 족쇄를 걷어내는 순간이었다. 이 역사적인 순간을 잡으려는 듯 몇 개의 플래시가 더 터졌다. 와일즈는 최후로 <페르마의 마지막 정리>를 칠판에 적고는 청중을 향해 조용히 입을 열었다.

“이쯤에서 끝내는 게 좋겠습니다”

[앤드류 와일즈가 강의를 끝낸 사진, 출처 구글 이미지]

<2편에서 계속>