brunch

You can make anything
by writing

C.S.Lewis

by Andy강성 Jan 27. 2024

'페르마의 마지막 정리' (2)

Ferma’s Last Theorem과 수학 영화 이야기

제1장 “이쯤에서 끝내는 게 좋겠습니다 “


제1장은 주로 <페르마의 마지막 정리>의 연원이 된 그 유명한 ‘피타고라스의 정리’와 피타고라스의 일생에 대한 이야기를 하고 있다.


와일즈의 증명 강연


1993년 6월 23일 영국인이면서 미국 프린스턴 대학의 교수로 재직 중인 유명한 천재 수학자인 앤드루 와일즈가 드디어 케임브리지 대학의 아이작 뉴턴 연구소에서 ‘페르마의 마지막 정리’를 증명하는 강의를 한다는 소문에 전 세계 수학계는 흥분의 도가니에 빠져 있었다.


그러나 그는 수학자로서 왕성한 연구 활동의 전성기인 25~30세를 넘어 40세의 나이였는 데다가 당시 수학계에서는 서로 공개적으로 아이디어를 공유하거나 협업하면서 성과를 만들어 내는 것이 자연스러운 분위기였는데 와일즈는 최근 수년 동안 모든 대외 활동을 그만두고 사람들 앞에 모습을 드러내지 않았기 때문에 당시 동료들은 와일즈의 연구 인생이 이미 끝난 것이 아닌가라고 생각했었다고 한다.


수학계에서는 요절한 천재 수학자들이 많다.


인도 출신 '스리니바사 라마누잔'(Srinivasa Ramanujan)은 인도 빈민가에서 태어나 정규 교육을 받지 않고 구석에 돌아다니던 오래된 수학책으로 독학을 했다고 한다.


이후 제대로 된 수학공부를 하고 싶어 자신의 수학 노트를  영국 대학들에 보냈는데, 그 천재성을 알아본 '하디'(Godfrey Harold Hardy, 저서 《어느 수학자의 변명》)에 의해 케임브리지 대학교에 초청받아 수학적 분석, 정수론, 무한급수, 연속분수 등에 상당한 기여를 하여 31세에 영국 학술원 회원으로 선출되었으나 인도로 돌아갔다가 33세에 결핵으로 사망하였다(하디와 라마누잔의 이야기를 다룬 영화 '무한대를 본 남자' 강추^^).


[좌: 라마누잔 우: 하디 출처 구글 이미지]
[라마누잔의 이야기를 다룬 영화 '무한대를 본 남자']

또한 노르웨이의 '닐스 헨리크 아벨'(Niels Henrik Abel)은 19세에 타원함수•적분 방정식과 5차 방정식의 대수적 불능 문제를 연구하였고, 대수함수론의 기본 정리인 아벨-루피니 정리를 발표하였으나 8년 후 결핵으로 사망하였다.


프랑스의 '에바리스트 갈루아'(Évariste Galois)는 10대 시절에 수학의 오랜 난제였던 5차 이상의 고등 다항식을 거듭제곱근의 해로 나타낼 수 있는지 판별하기 위한 필요충분조건을 밝혔고, 그의 연구는 추상대수학의 주요 분야인 '갈루아 이론'과 '군론'의 기반이 되었으나, 결투로 21세에 요절하였다.


이런 사례들에서 보듯, 천재적인 아이디어는 젊은 나이에 떠오른다는 게 당시 수학계의 정설이었기 때문에 와일즈의 증명에 대해 회의적으로 생각하는 사람들도 많았다고 한다.


[좌: 아벨, 우: 갈루아, 출처 구글 이미지]
[갈루아가 결투 전날 남겨놓은 수학 메모, 출처 구글 이미지]

피타고라스의 정리


와일즈는 1963년 열 살 때 우연히 밀턴 가의 도서관에서 ‘에릭 템플 벨’의 《최후의 문제》라는 책에서, "페르마가 무심코 던진 이 질문 하나가 300여 년간 수학자들을 괴롭히고 있다"는 이야기를 읽고 어린 나이에 언젠가는 이 문제를 풀겠다는 꿈을 갖게 되었다고 한다.


이 문제는 언뜻 보기에는 아주 쉬워 보였는데, 누구나 다 아는 그 유명한 <피타고라스의 정리>에서 파생된 문제였기 때문이다.


저자는 여기서 피타고라스 이야기로 거슬러 올라간다. 피타고라스는 수학 역사상 가장 위대하면서도 자신이 직접 저술한 책이 한 권도 남아 있지 않아 신비에 싸인 인물인데, 다만 확실한 것은 그가 수이론의 창시자이며 고대의 ‘수학 황금기’를 구축했던 위대한 학자라는 사실 뿐이라고 한다.


저자는 먼저 피타고라스가 기원전 6세기에 에게 해의 사모스 섬에서 태어나서 30년간 고대 도시 각지를 여행하며 수학적 능력을 쌓아나간 이야기, 그리스의 크로톤에 정착하여 '밀로'(Milo, 당대 최고의 부자였는데 체력도 엄청나 올림픽과 델포이 경기에서 열두 번이나 우승하였다고 한다)의 후원을 받아 ‘피타고라스 학회’(Pythagorean School)를 창설하고 600명이 넘는 제자들이 모여든 이야기, 밀로의 딸이자 제자였으며 최초의 그리스 여성 수학자로 인정받는 ‘테아노(Theano)’('황금분할의 법칙'을 정립했다고 한다)와 결혼한 이야기 등을 해 나간다.


또한 고대 올림픽을 관전하고 있을 때 프리우스의 왕자 레온이 피타고라스에게 “스스로를 어떤 사람이라고 생각하느냐”라고 묻자 피타고라스가 “나는 철학자입니다”라고 대답한 뒤 ‘철학자’가 뭐 하는 사람인지 설명한 이야기를 인용하고 있다.


“레온 왕자여, 인생이란 지금 당신이 보고 있는 운동경기와 비슷합니다. 어떤 이는 재물을 구하는 일에 몰두하고 또 어떤 이는 명예와 영광을 얻으려는 야망에 빠지기도 합니다. 그러나 그들 중에는 지금 눈앞에서 벌어지고 있는 모든 것을 주의 깊게 바라보면서 이해하려고 애쓰는 사람들도 있습니다. 이들 중 가장 현명한 이는 삶 자체의 의미와 목적을 탐구하는 사람들입니다. 완전무결한 현자란 있을 수 없겠지만, 이들이 바로 ‘철학자’입니다. 그들은 지혜를 사랑하고, 자연의 비밀을 탐구하는 열정을 귀하게 여기는 사람들입니다”


[라파엘로의 ‘아테네 학당’ 왼쪽 하단이 피타고라스, 가운데가 플라톤과 아리스토텔레스, 오른쪽 하단이 유클리드 출처 구글 이미지]

완전수와 친화수


피타고라스가 추구한 이상향은 ‘수(number)’였고 숫자들 사이의 관계를 이해함으로써 우주의 영적인 비밀을 알아내고 신에게 더욱 가까이 갈 수 있다고 믿었다고 하며, 특히 자연수와 분수(총칭하여 ’유리수‘)에 깊은 관심을 가지고 있었다고 한다.


그중에서 피타고라스 학회 회원들은 '완전수'(자신을 제외한 약수의 합과 일치하는 수로서 가장 작은 수는 6이고 그다음은 28이며, 496, 8,128 등으로 점점 그 간격이 엄청나게 벌어진다)의 연구에 매료되어 있었다고 한다.


또한 완전수와 비슷한 ‘친화수’(한 쌍의 수로서, 한 수의 약수들을 모두 더한 값이 나머지 수와 같아지는 경우, 220과 284)를 발견하기도 하였다고 한다.


일본 영화 ’박사가 사랑한 수식‘ 초반에 ‘완전수’와 ‘친화수’(일본에서는 ‘友愛数’라고 하는 것 같다)에 대해 설명하는 부분이 나온다.

수와 자연 법칙


피타고라스는 ‘수와 자연과의 관계’에도 지대한 관심을 보였는데, ‘자연 현상을 지배하는 모종의 법칙이 분명히 존재하며, 이 법칙들은 수학 방정식으로 표현할 수 있다’고 생각했다고 한다.


피타고라스에 대해 아홉 권의 책을 저술했던 4세기의 철학자 '이암블리코스'(Iamblichos)에 의하면, 피타고라스는 우연히 대장간 앞을 지나다가 쇠를 두드리는 망치 소리를 듣고 망치의 화음을 분석하였으며, 결국 음악의 모든 화성이 간단한 정수비(분수)로 이루어진다는 심오한 진리를 터득하게 되었다고 한다.


또한 피타고라스는 물리적 현상을 지배하는 수학 법칙을 찾아낸 최초의 인간이라고 하면서, 이 세상 모든 곳에 ‘수’가 숨겨져 있다고 생각한 끝에 결국 ‘모든 것은 수이다’라는 결론에 도달하였으며, 우주 내에서 일어나는 모든 현상을 서술할 수 있는 수학적 언어를 개발하기 위해 모든 힘을 기울였다고 한다.


후세에 이러한 영향으로 인해 수학의 발전은 과학혁명을 불러왔는데, 아이작 뉴턴은 물리학자이자 천재적인 수학자였으며, 아인슈타인의 일반상대성이론, 양자중력이론 등도 고등수학의 개발로 인해 구현이 가능했다고 한다.


수학적 증명


한편 피타고라스의 정리에 관해, 중국인들과 바빌로니아인들은 이미 1000년이나 앞선 시기에 이 정리를 일상 속에서 응용하고 있었지만 이 정리가 직각삼각형에 적용된다는 사실을 몰랐다고 하면서, 피타고라스는 ‘수학적 증명’이라는 개념을 통해 자신의 정리가 절대적 진리임을 100% 확신하였다고 한다.


[좌: 기원전 10세기 중국 수학책의 ‘구고현의 정리’ 출처 위키피디아, 우: 피타고라스의 증명]

이러한 ‘수학적 증명’ 개념은 일단 증명이 성공적으로 이루어지면 그것은 이 세상이 끝나는 날까지 진리로 남기 때문에 완벽한 것이어야 하며, 이는 ‘근사적인 개념’에서 출발해서 계속 송두리째 뒤집히기도 하는 과학이론들과 비교되며, ‘귀퉁이가 잘려나간 체스판’ 문제의 해결 방법을 통해 그 차이를 분명히 보여준다고 설명하고 있다.


저자는 피타고라스가 피타고라스 학회에 들어오지 못해 앙심을 품은 ‘실론’의 보복으로 안타깝게 불길 속에서 최후를 맞이한 이야기와 살아남은 소수의 제자들이 학교를 설립하여 학생들에게 피타고라스의 논리적 증명법을 계속하여 가르쳐 나간 이야기를 이어간다.


피타고라스의 삼각수


피타고라스의 제자들이 가르친 내용 중에는 ‘피타고라스의 삼각수’, 즉 피타고라스의 방정식 "x² + y²= z²"를 만족하는 세 개의 정수라는 것이 있었는데(예를 들어 x=3, y=4, z=5), 그들은 이러한 삼각수가 무한히 많다는 사실을 수학적으로 증명하는데 성공을 거두었다고 한다.


그런데 이후 수학자들이 지수 n이 3보다 클 경우에도 "xⁿ + yⁿ = zⁿ"를 만족시키는 정수해가 있는지 찾아보려고 하였으나 모두 실패하였는데, 페르마는 아예 “이러한 정수해는 존재하지 않는다”고 단정하였다고 한다.


하지만 그는 그에 대한 증명을 남기지 않았기 때문에 이후 300년 동안 위대한 수학자들이 이 문제에 매달려 유실된 증명을 재현하려고 애썼지만 모두 실패하였다고 한다.


앤드루 와일즈가 열 살 때 벨의 《최후의 문제》에서 이 안타까운 이야기를 읽고 이 문제를 풀겠다는 꿈을 키운 지 30년 만에 드디어 자신의 증명을 성공적으로 세상에 알리면서 “이쯤에서 끝내는 게 좋겠습니다”는 말로 강의를 마무리하기 전까지는.


[앤드류 와일즈가 강의를 끝낸 사진, 출처 구글 이미지]


<3편에서 계속>

매거진의 이전글 '페르마의 마지막 정리‘ (1)
브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari