brunch

You can make anything
by writing

C.S.Lewis

by Andy강성 Jan 26. 2024

'페르마의 마지막 정리‘ (1)

Ferma's Last Theorem과 수학 영화 이야기

수학에는 '아직도' '풀리지 않은' 난제들이 많다.


‘아직도’란 짧게는 몇 십 년에서 몇 백 년에 걸쳐 현재까지 아무도 풀지 못했지만 '절대 풀 수 없는 걸로 확인되지는 않았다'는 의미이고, ‘풀리지 않았다’는 것은 ‘추측이나 가설이 어느 경우에나 항상 맞다는 완전한 증명을 해 내지 못했다’는 것을 의미한다.


독일의 위대한 수학자인 다비드 힐베르트(David Hilbert)는 1900년 프랑스 파리에서 열린 세계 수학자 대회에서 20세기에 풀어야 할 가장 중요한 수학 문제 23개를 제안했는데('Hilbert's Problems'), 현재 이 중 10개는 풀렸지만, 9개는 일부만 풀렸으며, 아직도 4문제는 풀리지 않고 있다(그중에는 소수(素數) 분야에서 너무나 유명한 ‘리만 가설’도 포함되어 있다).


[힐베르트, 출처 구글 이미지]

그로부터 다시 100년 후 21세기가 시작하는 2000년 5월 24일에는 클레이 수학연구소(Clay Mathematics Institute, CMI, 1998년에 설립된 미국 매사추세츠주 케임브리지 지방에 있는 사설 비영리 재단)가 각 문제당 100만 달러씩을 걸고, 21세기 사회에 가장 크게 공헌할 수 있지만 아직까지 풀리지 않은 미해결 수학 문제 7개를 발표하였다(소위 ‘밀레니엄 문제’, Millennium Prize Problems).


이 7개의 밀레니엄 문제는, 1) P-NP 문제, 2) 호지 추측, 3) 푸앵카레 추측, 4) 리만 가설, 5) 양-밀스 질량 간극 가설, 6) 나비에-스토크스 방정식, 7) 버치-스위너턴다이어 추측인데, 이 중 '리만 가설'만 힐베르트의 23문제와 겹친다.


리만 가설은 '가우스'의 수제자인 독일의 수학자 베른하르트 리만(Georg Friedrich Bernhard Riemann)이 불규칙하게 등장하는 소수의 밀도의 규칙을 밝히려는 이론으로, “리만 제타 함수를 0이 되게 하는 자명하지 않은 모든 복소수 근의 실수부가 ½이다”라는 추론이다.


이에 대해 힐베르트는 이런 말을 했다고 전해진다. "만약 내가 1,000년 동안 잠들어 있다가 깨어난다면 아마 제일 먼저 이렇게 물을 것이다. 리만 가설은 증명되었습니까?"


[리만과 불규칙하게 등장하는 소수의 규칙을 분석한 리만 가설 그래프 출처 구글 이미지]

이 밀레니엄 문제들 중에서 현재까지, 현대 위상수학에서 가장 중요하고 어렵다고 여겨지던 ‘푸앵카레 추측(Poincaré conjecture)만 2003년 러시아의 그레고리 페렐만(Grigori Yakovlevich Perelman)이 미분기하학의 방법으로 100년 만에 증명하였을 뿐이고(그래서 이제는 '푸앵카레-페렐만 정리'(Poincaré-Perelman theorem)가 되었다), 나머지 문제들은 아직까지도 미해결 상태로 남아 있다.


[좌: 푸앵카레 우: 프앵카레가 추측한 우주의 유형 8가지 출처 구글 이미지]

그런데 페렐만은 밀레니엄 상금 100만 달러를 거부하면서“내가 우주를 제어하는 법을 알고 있는데 어떻게 백만달러에 연연해 하겠는가(I know how to control the universe. Why should I run for a million?)“라고 했다고 하며, 수학계의 노벨상으로 불리는 필즈상 수상도 거부하고(페렐만이 학계에서 마음의 상처를 많이 입어 학계와의 접촉을 피하고 싶었기 때문이라는 이야기가 있다) 러시아에서 혼자 노모를 모시고 살고 있다고 한다;;;


[위: 프앵카레 추측 증명 강의, 아래: 노모와 함께 사는 그레고리 페렐만 출처 구글 이미지]

이렇게 수학계가 큰 상금을 걸고 이런 문제들을 발표하는 것은, 많은 수학자들이 중도에 포기하지 않고 평생을 바쳐 이런 문제들을 풀게 만들고 그 과정에서 새로운 이론과 방법론이 발견되면서 그로 인해 수학의 큰 발전이 이루어졌다고 보기 때문이라고 한다.


페르마의 마지막 정리


그런데 밀레니엄 문제 이전에, 이와 같이 큰 상금이 걸려 있었지만 수백 년에 걸쳐 풀리지 않았던 난제가 있었는데 그것이 바로 그 유명한 <페르마의 마지막 정리>(Ferma’s Last Theorem)이다.


이 정리는 1637년 페르마가 자신이 공부하던 ‘디오판토스’의 《아리스메티카(Arithmetica)》 제2권의 여백에 남겨 놓았던 것인데, 페르마가 그 정리와 함께 적어 놓은 그 유명한 “나는 이에 대한 실로 놀라운 증명법을 발견했다. (하지만) 여백이 부족하여 이를 적지 않겠다”라는 메모로 인해 더욱 화제가 되었다.


이 메모는 워낙 유명해져서 여러 곳에서 많이 인용되기도 하고 패러디도 많이 나올 정도로 수학자가 아닌 일반인들에게도 널리 알려진 이야기이기도 한데, 1990년대 뉴욕 8번가 지하철 역 벽에는 다음과 같은 패러디가 적혀 있었다고 한다.

"나는 놀라운 방법으로 페르마의 마지막 정리를 증명했다. 그러나 지하철이 오고 있어 여기에 적지는 않겠다."


[‘원피스’에서 페르마의 마지막 정리가 나오는 장면]

이 메모가 알려진 후 300년이 넘도록 수많은 위대한 수학자들이 이 정리를 증명하기 위해 도전했다가 실패하였는데, 영국의 앤드루 존 와일즈 경(Sir Andrew John Wiles)이 1994년, 페르마의 메모가 발견된 지 357년 만에 극적으로 이 정리를 증명해 냈다.


[앤드루 와일즈 출처 구글 이미지]

《페르마의 마지막 정리》는 물리학자이자 과학 기자인 ‘사이먼 싱’이 1997년에 쓴 책인데, <페르마의 마지막 정리>가 수학사에서 어떻게 생겨 낳는지와 그 이후 많은 위대한 수학자들이 평생을 바쳐가며 이 정리의 증명에 조금씩 다가갔지만 결국은  좌절했던 이야기들 그리고 마지막으로 앤드루 와일즈가 이 문제를 증명하면서 마지막에 난관에 부딪혔다가 극적으로 해결해 낸 과정을 일반인도 이해할 수 있을 정도로 쉽게 설명하면서도 아주 흥미롭게 풀어낸 최고의 수학 관련 교양서로 평가받고 있다.


[사이먼 싱 출처 구글 이미지]


<2편에서 계속>

브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari