'페르마의 마지막 정리‘ (4)

Ferma's Last Theorem과 수학 영화 이야기

제3장 수학적 불명예

제3장부터는 그 어렵기로 유명했던 <페르마의 마지막 정리>가 300년에 걸쳐 조금씩 증명되어 가는 과정이 나오고 있다.

오일러의 도전

그 첫 도전장을 던진 수학자는 수학 역사상 가장 방대한 업적을 남긴 스위스 출신의 18세기를 대표하는 전설적인 수학의 천재, ‘레온하르트 오일러’(Leonhard Paul Euler, 1707년 4월 15일~1783년 9월 18일)였다.

그는 위대한 업적 뿐만 아니라 엄청난 수학 연구로 인해 두 눈이 모두 멀었지만 죽기 직전까지 7년 동안 뛰어난 암산과 암기로 수학 연구를 계속했던 것으로도 유명하다. 프랑스의 철학자인 니콜라 드 콩도르세는 오일러에게 바치는 추도사에서 "이제 오일러는 사는 것과 계산하는 것을 드디어 멈추었습니다"라고 썼다고 한다.

[위: 오른쪽 눈이 불편했던 오일러 초상화, 아래: 오일러가 들어간 스위스 10프랑 지폐, 출처 구글 이미지]

오일러가 남긴 수학의 업적은 너무 많아 열거하기도 힘든데(자신의 이름을 딴 상수가 두 개인 (오일러-마스케로니 상수와 오일러 상수) 유일한 수학자이기도 하다), 주요한 것들만 정리해 보면 다음과 같다.

1) 현재 사용하는 다수의 수학 기호들의 도입 및 대중화

- 함수의 개념을 도입하고, 함수 f를 f(x)로 표기

- 현대의 삼각함수 표기법을 도입

- 자연로그의 밑을 e(오일러 상수라고도 함)로 표기

- 수열의 합을 그리스 문자 Σ(시그마)로 사용

- 허수 단위를 i로 표기

- 원주율을 π로 표기하는 것을 대중화시킴(π를 처음 사용한 사람은 웨일스의 수학자 윌리엄 존스)

2) 오일러가 만든 유명한 공식이나 이론들

- 오일러 공식(영화 ‘히든 피겨스’에 우주선의 정확한 착륙 지점을 계산하기 위해 ‘오일러 공식’이 사용되는 장면이 나오면서 “이론이 아닌 숫자로 문제를 바라보는 것, 수학은 항상 믿음직하죠."라는 대사가 나온다. 이 영화도 NASA에 근무했던 캐서린 존슨의 실화를 바탕으로 하여 꽤 재미있다^^)

- 오일러의 항등식(기본 연산인 덧셈, 곱셈, 지수와 수학에서 중요한 상수인 0, 1, e, i, π가 한 번씩 들어간다는 점에서 수학자들이 선정한 '세상에서 가장 아름다운 공식'으로 선정되기도 하였다. 여러 영화 등에서 다루어짐 - 박사가 사랑한 수식, 이상한 나라의 수학자 등).

[오일러 공식과 오일러 항등식]

[영화 ‘박사가 사랑한 수식 중 오일러 항등식 설명하는 장면]

수학계에서 '이 세상의 어떤 다이아몬드보다 멋지고, 어떤 보물보다 진귀한 등식'이라는 평가를 받는 등식이다.

그럴 만도 한 것이 수학 사상 가장 유명한 동시에 영역이 달랐던 다섯 가지 수인 0, 1(산술)[7], 자연로그의 밑 e(해석학), 원주율(기하학), 그리고 허수 단위 i(대수학)가 모두 들어가 있으며, 수학에서 가장 기초가 되는 사칙연산, 지수 그리고 등호가 모두 쓰인 대범한 등식이기 때문이다.

물리학자 리처드 파인만은 이 식을 "수학에서 가장 비범한 식"이라고 불렀다. 21세기 기준 현존하는 최고의 SF 소설가로 평가받는 테드 창은 이 식을 보며 "마치 절대적인 진리의 편린을 목격한 듯한 외경심을 느낀다"고 했다.

- ’쾨니히스베르크의 다리 문제‘(한 번씩만 건너서 모든 다리 건너기)를 해결하면서(결국 불가능한 걸로 증명) 만든 ‘평면도형에서의 오일러 공식’: ‘v(꼭짓점과 교차점의 수) - e(면의 수) + f(변의 수) = 1’과 ‘3차원 도형에서의 오일러 공식’: v(꼭짓점과 교차점의 수) - e(면의 수) + f(변의 수) = 2‘

[위: 오일러 공식과 항등식, 아래: 쾨니히스베르크 다리 문제, 출처 구글 이미지]

- 오일러 각, 오일러-라그랑주 방정식, 오일러-마스케로니 상수, 오일러 방정식, 오일러 운동 방정식, 오일러의 정리, 오일러 삼각형 정리, 오일러 지표, 오일러 피 함수(양의 정수 n에 대해 n과 서로소인 1부터 n까지의 정수의 개수를 나타내는 함수, φ(n)), 코시-오일러 방정식, 오일러-매클로린 공식 등등

이러한 엄청난 업적들과 천재성 및 수학에 대한 열정 등으로 인해 오일러는 ‘역사상 가장 위대한 수학자’ 중 항상 다섯 손가락 안에 꼽힌다(‘아이작 뉴턴’을 물리학자로 본다면 사실상 ‘가우스’와 함께 최고의 근대 이후 수학자로 꼽힌다. 페르마도 15위에 랭크되어 있다).

[2013년 4월 15일 오일러 탄생 306주년을 기념한 구글 메인 화면, 오일러의 공식들로 장식, 출처 구글 이미지]

이러한 천재적인 오일러가 <페르마의 마지막 정리>에 도전하였는데, 오일러는 허수 i의 개념을 도입하는 당시로서는 혁명적인 방법과 ‘무한 반복성 귀류법’을 사용하여 n=3인 경우에 한하여 <페르마의 마지막 정리>를 기어이 증명해 냈다!!!.

한편 당시 n=4인 경우는 페르마가 다른 자신의 정리에서 귀류법적인 논리로 정수해가 없음을 이미 증명해 놓은 사실이 뒤늦게 밝혀졌고(물론 여기서도 여백이 좁다는 이유로 증명을 제대로 끝내지는 않았지만;;;) 오일러도 이 방식을 참조했던 것으로 보인다고 한다.

그렇지만 n=5 이상인 소수의 경우(3의 배수나 4의 배수는 n=3, 4인 방법을 통해 증명 가능하므로 결국 소수만 남음) 오일러의 ‘무한 반복성 귀류법’은 더 이상 먹혀들지 않고 증명에 실패하여, 저자는 결국 “인류 역사상 가장 뛰어난 수학자, 가장 위대한 업적을 남긴 불세출의 천재 오일러가 페르마 앞에서 무릎을 꿇은 것이다”라고 한다.

소수와 무한 이야기

저자는 여기서 소수에 대한 재미있는 이야기를 하는데, 소수는 수학체계를 구성하는 기본 단위이기 때문에 정수론 수학자들은 모든 수 중에서 소수를 가장 중요하게 여긴다고 한다.

소수가 아닌 자연수, 즉 모든 합성수는 소수들의 곱으로 만들어질 수 있기 때문에 소수는 정수론의 건물을 짓는 데 사용되는 블록이라고 할 수 있다고 한다.

이러한 소수가 응용되는 대표적 분야로는 ‘암호학’(Cryptography)을 들 수 있는데, 1977년 매사추세츠 공과대학에서 수학과 컴퓨터를 연구하던 ‘로널드 리베스트’와 ‘아디 샤미르’, 그리고 '레너드 에들먼은' 암호화하기는 쉽고, 풀기는 매우 어려운 비밀열쇠로 가장 이상적인 것이 소수라는 사실을 알게 되었다고 한다.

[로널드 리베스트, 아디 샤미르, 레너드 에들먼, 출처 구글 이미지]

즉 자릿수가 엄청나게 큰 두 개의 소수를 지정하고 이를 곱하여 더욱 큰 합성수를 만든 뒤 그 두 개의 약수를 알아내야만 암호가 풀리도록 설계하면 이를 해독하는데 엄청나게 긴 시간이 걸릴 것이므로 매우 높은 기밀성을 유지할 수 있다는 것이다(‘RSA 알고리즘’).

[129자리 소수로 만든 RSA 129 출처 구글 이미지]

한편 <페르마의 마지막 정리>와 관련해서는 n=3, 5, 7 등 몇 개의 소수에 대해 증명했다 하더라도 결국 소수의 개수가 무한대이고(유클리드는 이 것을 귀납적 방법으로 증명하였다고 한다) 무한대보다 분명히 작은 양도 역시 무한대가 되기 때문에 결국 수학자들은 모든 소수들에 대해 <페르마의 마지막 정리>를 증명하는데 좌절할 수밖에 없었다고 한다.

무한의 개념에 대해서는 이를 다룬 ‘힐베르트의 호텔’ 문제가 유명한데, 무한개로 존재하는 호텔방이 전부 차 있더라도 한 명의 새로운 투숙객이 왔을 경우 모든 손님을 한 칸씩만 옆으로 이동시켜 항상 새로운 손님을 받을 수 있고, 무한의 손님이 오더라도 모두 짝수방으로 이동시키고 빈 홀수방에 얼마든지 무한의 손님을 받을 수 있다는 논리이다.

[힐베르트의 무한 호텔 설명 그림, 출처 구글 이미지]

가우스와 페르마의 마지막 정리

인류 역사상 가장 천재적인 수학자 ‘요한 칼 프리드리히 가우스‘(Johann Carl Friedrich Gauß)는 수학의 모든 분야에 걸쳐 엄청난 업적을 쌓았음에도 불구하고 이상하게 <페르마의 마지막 정리>에 대해서는 아무런 시도도 하지 않았다.

[가우스, 출처 구글 이미지]

오히려 그는 친구에게 보내는 편지에서 <페르마의 마지막 정리>를 경멸하는 투의 표현을 서슴치 않았다고 한다. 그는 편지에서 “파리 학술원에서 내걸었다는 상금에는 구미가 당기지만 솔직히 <페르마의 정리> 따위에는 전혀 관심이 없다네. 이와 비슷한 수학 정리는 나라도 지금 당장 만들어 낼 수 있네. 정리의 진위 여부를 증명할 수 없는, 그런 수학 정리는 얼마든지 있으니까 말일세"라고 했다고 한다.

당시로서는 가우스의 말에도 일리가 있었겠지만 가우스가 과연 <페르마의 마지막 정리>에 전혀 관심을 가지지 않았는지 아니면 자존심이 강한 가우스가 증명을 시도하다가 포기하고 이런 이야기를 했는지는 아무도 알 수 없다고 한다.

<5편에서 계속>