'페르마의 마지막 정리‘ (3)
Ferma's Last Theorem과 수학 영화 이야기
제2장 수수께끼의 대가
제2장에서는 고대 그리스 시대부터 페르마가 역사상 최고의 난제를 만들어낸 17세기 프랑스에 이르기까지, 수학사의 주된 흐름과 숨겨진 이야기들을, 특히 페르마에 관한 재미있는 일화들을 중심으로 소개하고 있다.
아마추어 수학자 페르마
피에르 드 페르마는 1601년 8월 20일 프랑스 서부 보몽 드 로마뉴에서 태어났고 톨루즈 대학에 진학하였으며, 가족들이 공무원이 되기를 원해 시의회 위원이 되었다가 재판과 관계된 업무를 맡고 있었다고 한다.
그러면서 페르마는 일이 없을 때 소일거리로 고대 그리스 시대부터 전해 내려오는 ‘디오판토스’의 《아리스메티카(Arithmetica)》라는 책을 가지고 혼자 독학했다고 한다. 다시 말해 페르마는 아마추어 수학자였던 것이다.
그렇지만 그의 수학적 재능이 너무 뛰어나 벨은 그를 가리켜 ‘아마추어 수학의 왕자’라고 불렀고, 줄리언 쿨리지는 그의 저서 《위대한 아마추어의 수학》에서는 심지어 “그의 수학 실력이 너무 뛰어나 아마추어로 간주할 수 없다”고 까지 했다고 한다.
페르마는 몇 가지 중요한 수학적 업적을 남겼는데, 우선 철학자이자 천재 수학자이기도 했던 파스칼과 더불어 모든 종류의 확률 게임에 적용할 수 있는 근본적인 ‘확률법칙’을 발견하였다.
파스칼은 심지어 종교의 가치를 평가하는데 자신의 확률이론을 적용하여, "영원한 행복이라는 ‘무한한’ 가치에 천국에 들어갈 ‘유한한’ 확률을 곱하면 ‘무한한’ 기댓값이 나오기 때문에 종교는 판돈을 걸 가치가 있는 일종의 확률게임"이라고 했다는 유명한 이야기가 있다.
또한 역사상 최고의 수학자로 꼽히는 아이작 뉴턴이 “페르마의 접선 계산법을 기초로 하여 미적분학을 개발했다”고 할 정도로 미적분학에서도 큰 업적을 남겼다고 한다.
정수론과 유클리드의 귀류법
하지만 저자는 페르마가 남긴 가장 훌륭한 업적은 이것과 전혀 다른 엉뚱한 수학 분야에서 이루어졌다고 하면서 ‘정수론‘의 발전사에 대한 이야기를 꺼낸다.
기원전 332년에 알렉산더 대왕이 만든 알렉산드리아에 그를 이은 프콜레마이오스 1세가 만든 도서관은 당시 세계 최대 규모를 자랑했고 당시 수학자들은 여기서 수학의 모든 것을 배울 수 있었으며 그곳에서 강의를 하는 것을 최고의 영예로 생각했는데 이때 형성된 수학학회의 선두 주자는 "학문에는 왕도가 없다"고 했다는 '유클리드'였다고 한다.
유클리드가 집대성한 《원론(The Elements)》이란 책은 성경 다음으로 널리 익히는 제2의 베스트셀러가 되었으며 향후 2,000년간 전 세계의 초∙중∙고∙대학의 수학책은 ‘유클리드의 원론’의 기하학을 기초로 하고 있다고 한다.
그가 개발한 수학적 논리 중 가장 특기할 만한 것은 ’reductio ad absurdum(귀류법)‘, 즉 하나의 명제가 참이라는 것을 증명하기 위해 우선 그 명제가 거짓이라는 가정에서 출발하여 논리적으로 모순되는 결과를 유도하는 방법이라고 한다.
[유클리드의 기하학 원론, 출처 구글 이미지]영국의 수학자 하디(라마누잔의 스승)는 자신의 저서, 《어느 수학자의 변명》에서 모순에 의한 증명법을 다음과 같이 설명했다.
“유클리드가 그토록 좋아했던 귀류법은 수학자들이 지난 가장 훌륭한 무기이다. 그것은 체스보다 훨씬 대담한 경기라고 할 수 있다. 체스를 두는 사람은 졸이나 마 따위를 희생시키면서 경기를 풀어나가지만, 귀류법의 논리를 펴는 수학자는 게임 자체를 담보로 잡힌 채 경기를 하기 때문이다.”
무리수 이야기
귀류법을 이용한 유클리드의 증명 중에서 가장 유명한 것은 임의의 어떤 수가 무리수(분수로 표현할 수 없는 수)임을 보이는 증명이었다.
원래 무리수는 피타고라스 학회에서 처음 발견한 것으로 추정되는데, 피타고라스는 정수와 분수도 아니고 10진 표기법으로 표기할 수 없는 괴상망측한 수라고 생각하며 극도로 무리수를 혐오하였다고 한다.
심지어 그로 인해 피타고라스의 제자였던 '히파소스'(Hippasus)가 √2를 분수로 표현하는 것이 불가능하다는 사실, 즉 무리수를 처음 발견하여 이를 피타고라스에게 알렸다가 무리수의 존재를 은폐하려는 피타고라스에 명령에 의해 익사당했다는 이야기도 있다고 한다;;;
무리리수 중 대표적인 수가 '원주율 π'인데(그래서 세계수학의 날은 3월 14일이다), 사실 이 우주를 원자 한 개 정도의 오차 이내에서 계산하고자 할 때에는 소수점 이하 서른아홉 자리만 고려하면 충분한데, 현재는 2022년에 구글 클라우드 개발자인 '이와오 엠마 하루카'가 원주율을 100조 자리까지 계산해 기네스북 세계 1위에 올랐다고 하며, 소수점 7만 자리까지 암기하는 사람도 있다고 한다.
[이와오 엠마 하루카 등, 출처 구글 이미지]얼마 전에 '이상한 나라의 수학자'라는 우리나라 영화에서 주인공 천재 수학자 이학성(최민식 분)이 이 원주율에 음을 매칭시켜(1은 도, 2는 레 이런 식) 피아노로 연주했는데('파이송') 놀라울 정도로 멋진 화음의 곡이 만들어져 다시 한번 신기한 수의 세계에 감탄한 적이 있다^^
디오판토스의 《아리스메티카》
한편 유클리드의 기하학만큼 유명한 저서를 남긴 사람은 알렉산드리아에서 활약했던 '디오판토스'(Diophantus)로서 그는 그리스 수학을 선도한 최후의 인물인데, 그의 묘비에는 그의 인생 역정을 수수께끼로 묘사한 다음과 같은 글이 남겨져 있어 유명하다.
신의 축복으로 태어난 그는 인생의 1/6을 소년으로 보냈다. 그리고 다시 인생의 1/12이 지난 뒤에는 얼굴에 수염이 자라기 시작했다. 다시 1/7이 지난 뒤 그는 아름다운 여인을 맞이하여 화촉을 밝혔으며, 결혼한 지 5년 만에 귀한 아들을 얻었다. 아! 그러나 그의 가엾은 아들은 아버지의 반밖에 살지 못했다. 아들을 먼저 보내고 깊은 슬픔에 빠진 그는 그 뒤 4년간 정수론에 몰입하여 자신을 달래다가 일생을 마쳤다.
정수론에 관한 그의 업적은 그가 남긴 《아리스메티카》에 의해 잘 알려져 있는데(본래 열세 권이었는데 중세 암흑기에 소실되었다가 겨우 여섯 권이 전해졌다고 한다), 페르마는 바로 이 책 《아리스메티카》 6권에 있는 총 100여 문제를 가지고 정수론을 공부했고 그 외 전혀 별도의 수학교육을 받지 않았다고 한다!!!
페르마의 메모
그 책 중 '2권의 여덟 번째 문제'의 여백에 자신의 메모로 페르마의 마지막 정리와 그 유명한 문구를 남겨 놓았던 것이다(이 메모가 적힌 원본은 남아 있지 않고 페르마 사후에 아들이 그 메모를 인쇄하여 추가한 '페르마의 주석이 달린 아리스메티카 개정판'에 그 내용이 남아 있을 뿐이다).
Quaestio VIII.
Propositum quadratum dividere in duos quadratos.
Imperatum sit ut 16. dividatur in duos quadratos. Ponatur primus 1Q. Oportet igitur 16. - 1Q. aequales esse quadrato. Fingo quadratum a numeris quotquot libuerit, cum defectu tot unitatum quod continet latus ipsius 16. esto a 2N. - 4. ipse igitur quadratus erit 4Q. + 16. - 16N. haec aequabuntur unitatibus 16. - 1Q. Communis adiiciatur utrimque defectus, et a similibus auferantur similia, fient 5Q. aequales 16N. et fit 1N. 16/5. Erit igitur alter quadratorum 256/25. alter vero 144/25. et utriusque summa est 400/25. seu 16. et uterque quadratus est.
Observatio domini Petri de Fermat.
Cubum autem in duos cubos, aut quadratoquadratum in duos quadratoquadratos, et generaliter nullam in infinitum ultra quadratum potestatem in duos eiusdem nominis fas est dividere cuius rei demonstrationem mirabilem sane detexi. Hanc marginis exiguitas non caperet.
[번역]
문제 8.
제곱수를 두 제곱수로 나누기 위해.
문제가 16을 두 제곱수로 나누는 것이라고 하자. 먼저 x²을 둔다. 그러면 16-x²이 제곱수여야 한다. 원하는 만큼의 수에서 제곱해서 16이 되는 수를 뺀 것으로 제곱수를 만든다. 2x-4라고 하자. 그러면 이것의 제곱은 4x²-16x+16인데, 이를 16-x²과 같다고 한다. 양쪽에서 공통으로 모자란 부분을 더하고 같은 양만큼 없애면, 즉 양변을 정리하면 5x²이 16x와 같고, x는 16/5가 된다. 따라서 하나를 256/25로 하고 다른 하나를 144/25로 두면 그 합은 400/25, 즉 16이 되고 둘은 각각 제곱수다.
페트리 드 페르마의 주석
임의의 세제곱수는 다른 두 세제곱수의 합으로 표현될 수 없다. 임의의 네제곱수 역시 다른 두 네제곱수의 합으로 표현될 수 없다. 일반적으로, 3 이상의 지수를 가진 정수는 이와 동일한 지수를 가진 다른 두 수의 합으로 표현될 수 없다. 나는 이에 대한 실로 놀라운 증명법을 발견했다. 여백이 부족하여 이를 적지 않겠다.
저자는 이 부분에 대해 다음과 같이 표현하고 있다.
이처럼 사람을 약 올리는 말이 또 어디 있을까. 페르마는 자신의 표현대로 '경이적인 방법으로' 증명했음에도 불구하고, 단지 귀찮다는 이유만으로 그것을 세상에 발표하지 않은 것이다. 이뿐만 아니라 그는 어느 누구와도 증명에 관한 대화나 편지를 나누지 않았다. 페르마의 게으름과 겸손함으로 인해 베일 속에 가려진 이 정리는 훗날 <페르마의 마지막 정리>라는 이름으로 세상에 알려지면서 전 세계 수학자들 사이에서 가장 유명하고 가장 증명하기 어려운 정리로 자리를 굳혔다.
페르마가 이 정리를 발견한 것은 1637년, 그의 나이 37세일 때인데, 그로부터 거의 30년이 지난 1665년 1월 12일 페르마가 세상을 떠난 뒤 페르마의 장남이었던 클레앙 사무엘이 아버지의 범상치 않은 업적을 후대에 전해야 한다는 사명감으로 페르마가 생전에 남긴 주석들을 한데 수집하여 출판함으로써 <페르마의 마지막 정리>는 생명을 유지할 수 있었다고 한다.
[위: 페르마의 주석이 달린 아리스메티카 개정판, 아래: 페르마의 마지막 정리가 인쇄된 페이지, 출처 구글 이미지]페르마의 주석이 세상에 알려지자, 당대의 수학자들은 페르마가 살아 있을 때 그와 주고받았던 편지를 뒤져보고는 자신들이 알고 있던 페르마의 수학이 빙산의 일각이었다는 사실에 경악을 금치 못했다고 한다.
18세기의 가장 위대한 수학자였던 레온하르트 오일러는 소수에 관하여 페르마가 남긴 또 다른 유명한 정리들 중 하나인, "4n+1로 표현되는 소수는 항상 두 제곱수의 합으로 표현될 수 있지만(13=2²+3²), 4n-1로 표현되는 소수는 이런 방식으로 표현될 수 없다(19=?²+?²)"를 증명하려고 시도했는데, 무려 7년 동안 이 문제와 씨름하던 끝에 1749년에 증명에 성공하였다고 한다. 페르마가 죽은 지 거의 1세기 만에 그의 증명 중 겨우 하나가 천재 오일러에 의해 재현된 것이다!!
원래 정리(Theorem)는 수학의 근본을 이루는 기초로서 완벽한 진실로 판명되어야만 하는 것이고, 완벽한 검증이 이루어지지 않은 아이디어는 단지 추론(conjecture)라고 하는데, 페르마는 자신이 발견했던 모든 정리를 완벽하게 증명했다고 주장했으므로, 이들은 그에게 있어 문자 그대로 '정리'가 될 수 있다.
하지만 다른 수학자들에게는 그의 증명과정이 재현되지 않았기 때문에 엄밀하게 말하면 그때까지는 '페르마의 추론'이었고, 자타가 공인하는 천재들도 두 손을 들어버릴 정도로 난공불락이어서 '수학 역사상 가장 지독한 수수께끼'라는 원망 어린 별칭이 따라다녔다고 한다.
벨은 자신의 저서 《최후의 문제》에서, "<페르마의 마지막 정리>가 증명되기 전에 인류는 멸망할 것이다."라고 했다고 하고, 아서 포기스가 1957년도에 출판한 단편 소설 《악마와 사이먼 플래그》에서는 "수학자가 악마에게 영혼을 줄 테니 기한 안에 페르마의 마지막 정리를 풀어달라고 딜을 걸었는데, 악마는 자신만만해하면서 혼자서 열심히 수학 공부를 하다가 현대수학의 방대함에 질려버리고 편미분방정식을 암산으로 풀 정도의 능력을 가진 가상의 외계 종족까지 찾아가지만 결국 실패했다"는 이야기를 할 정도로 <페르마의 마지막 정리>는 그 후 300년간 수학자들에게 너무나 가혹한 형벌이었다고 한다.
<4편에서 계속>
