‘페르마의 마지막 정리’ (최종)
제6장 비밀리에 수행된 계산 제7장 사소한 문제
제6장 비밀리에 수행된 계산
능숙한 해결사는 두 가지 자질을 동시에 지녀야 한다. 끊임없는 상상력과 불굴의 의지가 그것이다.
- 하워드 이브스(Howard W. Eves)
귀납법의 채택
1986년 친구와의 대화 중 ‘리벳의 엡실론 추측 증명’에 의해 <다니야마-시무라의 추론>과 <페르마의 마지막 정리>가 하나의 문제로 통합되었다는 이야기를 들은 와일즈는 드디어 그때부터 <페르마의 마지막 정리>에 다시 한번 도전하기로(즉 <다니야마-시무라의 추론>을 증명하기로) 결심한다.
그때부터 와일즈는 7년 동안 자기 집 다락방에 처박혀서 이 연구에만 몰두하였는데, 처음 1년 동안 와일즈는 모두 무한대의 개수를 갖는 타원 방정식과 모듈 형태의 매칭을 증명의 기본틀로 ‘귀납법(induction)’을 사용하기로 결정하였다.
즉, 무한히 많은 수의 타원 방정식이 무한히 많은 모듈 형태와 1대 1로 대응관계를 이룬다는 사실을 증명하기 위해 ‘1) 주어진 명제가 임의의 수 n에 대하여 성립한다면, 2) 그 명제는 n+1에 대해서도 성립한다’는 방식으로 단 한 가지 경우만을 증명함으로써 무한히 많은 경우에 대한 증명을 대신할 수 있는 방법을 택한 것이다.
와일즈는 이를 연구하는 과정에서 첫 번째 경우에 대한 증명을 위해, 19세기 프랑스에서 비극적인 삶을 살다 간 천재 ‘에바리스트 갈루아’가 5차 방정식의 해를 구하기 위해 도입한 ‘군론’(group theory)의 방법론을 도입하기로 했다.
갈루아의 군론과 첫 번째 증명 성공
갈루아는 프랑스혁명이 발발한 지 22년이 지난 1811년 10월 25일에 파리 남쪽 근교의 부르 라 레느라는 작은 마을에서 태어났다. 당시는 나폴레옹이 권력을 잡고 있다가 워털루 전투에서 참패하고 왕위가 다시 루이 18세에게 돌아간 왕정복고의 혼란기였다.
그는 열두 살 때 루이 르 그랑이라는 국립 중고등학교에 입학하였는데 당시 사회 분위기 탓에 학교 역시 혼란스러워 16세가 되어서야 처음으로 수학을 접할 수 있었다.
이후 그는 다른 과목들을 완전히 제쳐놓고 오로지 수학 공부에만 몰두하였고 그의 수학 실력은 급속도로 성장하여 급기야는 학교의 수학 선생조차 그에게 더 이상 가르칠 게 없어 그는 당대 최고의 대가들이 집필한 수학책을 보면서 혼자 공부를 계속해 나갔다.
갈루아는 17세의 어린 나이에 첫 번째 수학 논문을 작성하여 《아날 드 제르곤》이라는 학술지에 발표하기도 하였는데 그의 수학 실력은 뛰어났지만 머릿속으로만 계산을 끝내고 종이 위에 자세히 옮겨 적는 일을 싫어하는 스타일이었다.
그래서 당대 최고의 명문인 에콜 폴리테크니크에 응시했다가 퉁명스럽고 귀찮다는 말투로 인해 면접시험에서 낙방하였고, 두 번째 응시 때는 자신의 뛰어난 능력을 알아보지 못하는 면접관에게 칠판지우개를 집어던지는 사건을 일으켜 결국 더 이상 지원할 수도 없는 상황이 되었다.
이에 그는 혼자 비밀리에 연구를 계속해 나갔고, 당시 수학자들은 3차 및 4차 방정식까지 적용할 수 있는 일반적인 해를 구하는 방법을 갖고 있었으나 5차 방정식의 해를 구하는 일반적인 방법은 모르고 있었는데, 갈루아는 불과 17세의 나이에 이와 관련된 두 편의 논문을 과학학술원에 제출하였다.
이 논문들은 당대의 유명한 수학자들인 '오귀스탱 루이 코시'와 '조제프 푸리에'(Joseph Fourier, 푸리에 정리, 푸리에 급수, 푸리에 변환 등으로 유명) 등의 추천으로 수학상 심사위원회에 올려졌으나, 결국 수학상은 엉뚱한 사람에게 돌아가고 심지어 갈루아의 논문은 최종 심사 대상에서 아예 누락되었다(아래 이 사건에 대한 신문기사 참조).
작년 3월 1일 이전에 갈루아는 대수 방정식의 풀이에 관한 논문을 심사위원회에 제출했다. 그의 논문은 두 개의 논문을 하나로 축약한 것이었는데, 누가 보아도 최종 심사에 오를 만한 매우 훌륭한 논문이었다. 갈루아는 라그랑주조차 해결하지 못한 부분을 완벽하게 풀어냈으므로 대상을 받는 것이 당연했다. 코시도 그의 논문에 극찬을 아끼지 않았다. 그런데 결과는 어떠했는가? 갈루아의 논문은 사라져 버리고 이 젊은 석학이 제외된 채로 심사가 진행되어 대상은 엉뚱한 사람에게 돌아갔다. - 르 글로브(Le Globe), 1831
[조제프 푸리에, 출처 구글 이미지]이에 크게 실망한 갈루아는 개인적인 연구활동을 모두 집어치우고 정치적인 시위로 학교에서 소란을 피우다가 결국 학교에서 쫓겨나게 되었고 이후 학자로서의 꿈이 좌절된 채로 ‘직업 반란군’의 길에 접어들었으며, 감옥에 수감되기도 하는 등 시련을 겪다가 1832년 3월에는 ‘스테파니 펠리시 포트린 뒤 모텔’이라는 여자를 놓고 결투를 벌이다가 3월 30일에 사망하게 되었다.
이후 그의 논문들은 갈루아의 형 알프레드와 친구 오귀스트 슈발리에 의해 정리되어 10여 년이 지난 1846년에 수학자 조제프 리우빌에 의해 집중적으로 연구되어 세상에 논문으로 발표되게 되었고 그가 제시했던 5차 방정식의 일반 해법은 6차, 7차 등 고차 방정식에도 똑같이 적용될 수 있는 19세기 최고의 수학적 쾌거로 인정받게 되었다.
이 과정에서 갈루아는 ‘군론‘이라는 개념을 도입하였다. ’군(Group)’이란 덧셈이나 뺄셈 등의 연산을 사용하여 한데 묶을 수 있는 요소들의 집단으로서 각각의 군은 특정한 수학적 성질을 만족하는데, 군이 만족해야 하는 성질 중 특히 중요한 것은 ‘군을 이루는 임의의 원소 두 개를 추출하여 어떤 특정한 연산을 가했을 때, 그 결과 역시 군을 이루는 제3의 원고가 되어야 한다’는 것이다(‘폐쇄성’).
갈루아는 5차 방정식의 해를 모아 갈루아의 군을 만들었는데 와일즈는 <다니야마-시무라의 추론>을 증명하는데 이러한 갈루아의 아이디어를 도입했다고 한다. 즉, 와일즈는 “다양한 타원 방정식의 일부 해들이 하나의 군을 형성하고, 모든 E-급수의 첫 번째 원소들이 모든 M-급수의 첫 번째 원소들과 정확하게 일치한다”는 결론을 얻을 수 있었다고 한다(즉, 첫 번째의 증명 성공, 여기까지 2년이라는 세월이 걸렸다고 한다).
콜리바긴과 플라흐의 방법
와일즈가 첫 번째 N에 대한 증명을 마쳤을 즈음인 1988년 3월 8일 일본의 32살의 수학자인 ‘미야오카 요이치’가 ‘미분기하학’이라는 전혀 새로운 분야를 이용하여 <페르마의 마지막 정리>를 증명하였다는 기사가 나오기도 했으나, 이 증명은 같은 미분기하학 수학자인 프린스턴 고등과학원의 ‘게르트 팔팅스’(Gerd Faltings, 1986년 필즈상 수상)가 논리적 오류를 입증함으로써 결국 발표 2개월 만에 틀린 것으로 공식 판명되는 소동도 있었다고 한다.
[게르트 팔팅스, 출처 구글 이미지]이후 와일즈는 자신이 증명한 첫 번째 도미노에 이어 두 번째 도미노, 즉 ‘n이 성립하면 n+1도 당연히 성립한다’는 것을 증명할 수학적 테크닉으로, 타원 방정식을 분류하는 방법에 관한 이론인 ‘이와자와 이론’을 선택하였다. 그리하여 1년 동안 이 이론으로 ‘n+1 도미노’를 증명하려고 노력하였으나 결국 실패했다고 생각하고 좌절에 빠져 있었다고 한다.
그런 와중에 1991년 와일즈는 학술대회에서 옛 스승인 존 코티스의 제자였던 마티아스 플라흐(Matthias Flach)가 빅터 콜리바긴(Victor Kolyvagin)의 방법론을 보강하여 만든 ‘콜리바긴-플라흐의 방법’에 대하여 듣게 된다.
와일즈는 이 아이디어가 자신의 문제를 해결해 줄 수 있는 방법론으로서 안성맞춤이라고 생각하고 다시 1년 여 동안 이 아이디어를 확장하여 ‘n+1 도미노’를 증명하는데 모든 노력을 기울였다고 한다.
1993년 1월 초순 경 와일즈는 동료 교수인 ‘닉 카츠’(Nick Katz)에게 자신의 증명 방법에 대한 오류를 검토해 주고 검증을 받기 위해 도움을 요청하였고, 와일즈의 연구 결과를 비밀로 하기 위해 명목상으로 와일즈가 수학과 대학원생들을 대상으로 하는 강좌를 개설하여 자신의 연구 결과를 강의를 하고 그 강좌에 닉 카츠가 참여하여 그 강의를 듣고 검증하는 방식으로 진행하였다고 한다.
당시 이 강의의 영문을 모르는 다른 대학원생들은 결국 모두 떠나고 나중에는 닉카츠만 남게 되었는데, 종강할 무렵 카츠는 와일즈가 연구한 대로 콜리바긴-플라흐의 방법으로 <다니야마-시무로의 추론>을 증명할 수 있다는 확신을 갖게 되었다고 한다.
[닉 카츠, 출처 구글 이미지]그리고 마지막까지 괴롭히던 타원 방정식의 패턴은 1993년 3월 말쯤 우연히 발견한 배리 마주르의 논문에 나오는 19세기식 해결법으로 증명을 마칠 수 있었다고 한다.
드디어 증명 발표
이후 와일즈는 자신의 증명을 한 번 더 검증한 후 발표하려고 했는데, 마침 그 해 6월에 케임브리지 대학에서 학회가 열린다는 소식을 듣고 모교이기도 한 그곳에서 자신의 증명을 발표하기로 했다. 와일즈는 자신의 증명이 너무 길어서 강연 기회를 더 달라고 자신의 은사인 존 코티스에게 부탁을 하여 3번의 강연 기회를 얻어낸 후 차례대로 증명 과정을 발표하기로 했다.
당시 와일즈의 강연 제목은 ‘모듈 형태, 타원 방정식, 그리고 갈루아 군의 나툼(’나타내다‘라는 뜻의 수학 용어)(Modular Forms, Eliptic Curves, and Galois Representations)으로 사람들이 이 제목만을 보고는 강의 내용을 추측할 수 없도록 하였고, 처음 강의와 두 번째 강의까지도 사람들은 와일즈의 강연을 정확하게 이해하지 못하였으나, 셋째 날에는 소문이 퍼질 대로 퍼져서 케임브리지 대학 수학과의 모든 관계자들뿐만 아니라 배리 마주르, 켄 리벳, 콜리바긴 등 그의 강연을 이해할만한 사람들이 모두 구름처럼 모여들었다고 한다.
그리고 셋째 날 와일즈가 강의를 마치고, 마지막으로 ‘이쯤에서 끝내는 게 좋겠습니다’라고 하자 우뢰와 같은 박수가 터지고 바로 이 기사는 전 세계에 특종으로 퍼져 나갔다고 한다. 당시 <뉴욕 타임스>에서는 ‘유서 깊은 수학의 미스터리 - "마침내 '유레카!'의 함성이 터지다"(At Last, Shout of ‘Eureka!’ In Age-Old Math Mystery)라는 1면 머리기사가 나갔다고 한다.
[와일즈의 증명 강의 장면, 출처 구글 이미지]
[뉴욕 타임즈 기사, 출처 구글 이미지]다만 와일즈의 증명이 공식적으로 인정받으려면 와일즈가 논문의 형식으로 유명 학술지에 투고하고 해당 분야의 석학들로 이루어진 심사위원단으로부터 철저한 검증을 통과하는 절차가 아직 남아 있었다.
제7장 사소한 문제
도전할만한 가치가 있는 문제는 반격을 가해오면서 자신의 가치를 증명한다. - 피트 헤인(Piet Hein)
케임브리지에서 증명을 발표한 후 와일즈는 검증을 받기 위해 자신의 논문을 ‘배리 마주르’가 편집자로 있는 <Inventiones Mathematicae>라는 학술지에 제출하였다.
와일즈의 논문은 고대에서 현대에 이르기까지 다양한 수학 테크닉들이 종합적으로 사용되었기 때문에 마주르는 의례 2~3명이었던 심사위원의 수를 6명으로 늘리는 이례적인 결정을 내렸고, 200여 쪽에 이르는 복잡하고 방대한 증명과정을 여섯 개의 세부 과정으로 나뉘어 6명의 심사위원들이 각각 한 부분씩 맡아 심사를 책임지기로 합의를 보았다고 한다.
당시 세 번째 부분의 심사를 맡은 사람은 이미 와일즈와 함께 증명을 검토한 '닉 카츠'였는데, 그는 자신이 맡은 부분이 너무 벅차 파리에 있는 ‘뤽 일루지에’(Luc Illusie)와 함께 공동심사를 할 수 있도록 추가 요청하여 수용되었다고 한다.
이렇게 닉 카츠와 뤽 일루지에가 논문을 검토하던 중 어느 날 아주 사소해 보이는 문제점 하나를 발견하여 이를 와일즈에게 질의하는 과정에서 와일즈가 적용한 콜리바긴-플라흐의 방법이 모든 경우로 확장되지 않을 수도 있다는 오류가 발견되었다.
와일즈는 이 문제를 서둘러 해결하려고 노력하였지만 쉽지 않았고 시간이 흐르면서 와일즈 논문의 제3장에 오류가 있다는 구체적인 소문까지 나돌게 되었으며, 심지어는 “하버드 대학의 노엄 엘키스가 <페르마의 마지막 정리>가 틀렸음을 반증하는 엄청나게 큰 정수를 찾아냈으며 따라서 <다니야마-시무라의 추론>도 성립하지 않게 되었다”는 내용의 가짜 이메일까지 나오는 어처구니없는 사건도 있었다고 한다.
이후에도 6개월이 지났지만 해결의 실마리가 잡히지 않자 와일즈는 같은 대학의 동료 교수인 ‘피터 사르낙’(Peter Sarnak)에게 절망적인 상황을 솔직하게 털어놓았는데 사르낙은 와일즈에게 믿을만한 파트너를 구하여 다시 한번 시도해 볼 것을 권하였다.
와일즈는 케임브리지에서 프린스턴 대학으로 옮겨온 ‘리처드 테일러’(당시 그는 와일즈의 논문을 심사하던 여섯 명 중의 한 사람이었고 한때 와일즈의 제자였다고 한다)를 영입하기로 결정하였다.
[피터 사르낙 출처 구글 이미지]1994년 1월부터 와일즈는 테일러의 도움을 받으며 다시 한번 콜리바긴-플라흐의 방법을 파헤치기 시작하였는데, 그로부터 9개월이 지난 어느 날 와일즈는 그가 전에 콜리바긴-플라흐의 방법을 채택하면서 버렸던 ‘이와사와 이론’이 콜리바긴-플라흐의 방법과 서로 보완하는 성질을 갖고 있다는 사실을 갑작스럽게 발견하게 되었다고 한다.
[리차드 테일러 출처 구글 이미지]즉 콜리바긴-플라흐의 방법을 연구하면서 얻어낸 정보들이 ‘이와사와 이론’으로 귀납법을 완성하는데 반드시 필요한 요소로 작용하였고, 결국 두 가지 방법을 합쳐놓으니 모든 문제점이 기적과도 같이 말끔하게 해결되었다고 한다.
이와사와 겐키치(일본어: 岩澤 健吉, 1917년 9월 11일 ~ 1998년 10월 26일)는 일본의 수학자다. 대수적 수론에 공헌하였고, 특히 그 한 분야인 이와사와 이론을 창시하였다. 1945년에 도쿄 제국 대학에서 이야나가 쇼키치 아래서 박사 학위를 수여받았다. 1950년에 미국에 초청되어, 이후 2년 동안 프린스턴 고등연구소에서 있었다. 1952년 봄에 매사추세츠 공과대학교 교수가 되었다. 1967년에 프린스턴 대학교로 이전하였다. 1998년 10월 26일 도쿄에서 사망하였다.
[이와사와 겐키치 출처 구글 이미지]와일즈는 당시를 떠올리며 울먹거리며 다음과 같이 말했다고 한다.
"그것은 말로 표현할 수 없을 정도로 아름답고, 간결하면서 또 우아했어요. 왜 이 사실을 진작 발견하지 못했는지 이해가 가질 않았습니다. 정말 기쁘면서도 넋이 나가서 계산 결과를 한 20분 동안 멍하니 바라보았습니다. 그리고는 밖으로 나와 수학과 건물 내의 복도를 이리저리 거닐다가 다시 자리로 돌아와서는 제가 발견한 것이 아직 그대로 있는지 확인해 보았습니다. 꿈을 꾼 건지도 모르니까 말이죠. 그런데 그 아름다운 녀석이 여전히 그 자리에 있더군요. 저는 너무 흥분해서 정신을 가눌 수가 없었습니다. 제 연구 인생을 통틀어 가장 중요한 순간이었지요. 앞으로 제가 어떤 발견을 한다 해도 그런 정도의 환희는 두 번 다시 느껴보지 못할 겁니다."
결국 와일즈는 모든 문제점을 해결하고 인류 역사에 길이 남을 대정리에 마침표를 찍었고, 기한이 2007년 9월 13일로 되어 있던 ‘볼프스켈 상’의 상금도 수령하게 되었다(당시 10만 마르크가 여러 번의 디노미네이션을 거쳐 1997년에 와일즈가 수령한 것은 약 4만 달러 정도였다고 한다).
당시 수상위원회 위원장이었던 하인츠 바그너 교수는 <볼프스켈 상>이야말로 노벨상보다 훨씬 값진 세계 최고영예의 상임을 강조했다고 한다. 노벨 상 수상자는 매년 여러 명씩 탄생하지만 <볼프스켈 상>은 제정된 지 90년 만에 단 한 명의 수상자를 배출해 내고 폐지되었기 때문이다.
와일즈는 1995년 3월호 《수학연보》에 논문을 발표해서 드디어 358년 된 수학 난제인 <페르마의 마지막 정리>를 완벽하게 증명하였다. 그가 10살의 나이에 처음 <페르마의 마지막 정리>를 풀겠다는 꿈을 갖고 나서 30여 년 간의 노력이 결실을 맺게 된 것이다.
[10살 때의 와일즈와 증명 후의 와일즈 출처 구글 이미지]와일즈 교수의 고향이자 증명 발표가 있었던 케임브리지가 있는 영국에서도 성대한 축하와 기념행사들이 열렸다고 한다. UKTV에서는 다큐멘터리도 제작되었는데, 이 다큐멘터리는 나중에 <The Proof>라는 제목을 달게 되었다. 영상 초반에 그 영광스러운 때를 떠올리며 울먹거리는 와일즈의 모습이 인상적이다.
와일즈는 1996년 3월에 랭글런즈와 함께 수학의 대통합에 기여한 공로로 울프상(Wolf Prize)을 수상하여 상금 10만 달러를 나누어 가졌다. 또한 1998년에는 국제 수학 연맹(IMU)이 수여한 기념 은판 특별상(필즈상은 40세 이하에게만 주어지기 때문에 특별상을 수상)을, 2016년에는 아벨상도 수상하였다.
이렇게 페르마부터 시작해서 오일러, 소피 제르맹, 디리클레, 르장드르, 라메, 다니야마, 시무라, 프라이, 켄 리벳, 콜리바긴, 플라흐, 이와사와 등 수 많은 수학자들을 거치면서 결국 마지막으로 앤드류 와일즈에 의해 모든 이론들이 종합되어 <페르마의 마지막 정리>가 참인 것으로 드디어 증명되었다.
그동안의 히스토리를 재미있게 정리한 그림이 있어 인용해 본다^^
[출처 구글 이미지]<끝>
