페르마의 마지막 정리

페르마는 1601년 8월 20일 프랑스에서 태어났습니다. 부잣집에서 태어난 그는 고급 교육을 받고 툴루즈 대학에 진학했죠. 그러나 페르마가 어린 시절부터 특별한 수학적 재능이 있었다는 기록은 어디에도 없었습니다. 가족들은 페르마가 공무원이 되길 바랐어요. 그래서 시의회 의원이 되었습니다. 당시 17세기 프랑스 정치 판에는 음모와 음해 공작이 난무했는데요. 페르마는 자신의 이익을 추구하지 않고 사심 없이 의무를 이행하는 청백리의 길을 걷기로 했죠. 그때 취미로 삼은 것이 수학이었습니다.

그는 수학에 관한 한 어디까지나 아마추어일 뿐 전문 학자는 아니었어요. 페르마의 수학에 가장 큰 영향을 준 것은 고대 그리스의 수학책인 ‘아리스메티카’입니다. 알렉산드리아 도서관이 회교도에 의해 파괴되었고, ‘코란에 위배되는 책은 모두 우리의 적이므로 폐기 처분한다’는 명목으로 웬만한 책은 거의 다 불탔죠. ‘아리스메티카’는 알렉산드리아 도서관에서 동로마로 동로마에서 이탈리아로 옮기면서 수학자들이 어떻게든 살리려고 애쓰던 책입니다. 페르마의 마지막 정리는 그가 이 책을 읽으면서 생각해 낸 수학 문제 중에 하나입니다.

페르마는 수줍음이 많으면서도 장난기가 많았는데요. 자신이 최근에 발견한 수학정리를 아무런 증명도 없이 적어 놓고 “당신도 한번 이 정리를 증명해 보시죠. 저는 이미 했습니다 ^^”라고 편지를 보내기도 했죠. 하지만 페르마는 자신의 증명을 한 번도 세상에 공개한 적이 없습니다. 때문에 데카르트는 페르마를 허풍쟁이라고 부르기도 했어요. 페르마가 문제만 내고 해답을 숨긴 이유는 그의 성격 때문입니다. 그는 머릿속에서 대충 논리가 성립되면 즉시 다음 문제로 넘어갔어요. 자신의 증명 논리를 남들에게 보여줄 수 있을 만큼 깨끗하게 정리하는 것은 시간 낭비라고 생각을 했죠. 증명 과정이 공개되면 다른 수학자들이 자신을 귀찮게 할 것이 뻔했기 때문입니다. 어차피 자신의 수학 실력을 세상에 뽐내고 싶어 하는 성격은 아니었거든요.

아리스메티카에는 100여 개의 문제들이 수록되어 있는데, 페르마는 이 책을 응용해 더 복잡한 문제를 만들었습니다. 그러나 문제 해결에 필요한 논리들을 아무 데나 간략하게 휘갈겨 놓기만 했죠. 한 가지 다행스러운 것은 아리스메티카의 각 장마다 여백이 충분히 많아서 그곳에 휘갈겨 놓은 페르마의 주석이 후대에 전수되었다는 점입니다. 이 여백에 갈겨쓴 몇몇의 풀이가 페르마가 천재라는 것을 증명하는 값진 증거였습니다. 전설적인 페르마의 정리도 여백에 남긴 주석이었습니다. 아리스메티카 8번 문제 다음 여백에 이런 주석을 달아놨죠

'나는 경이적인 방법으로 이 정리를 증명했다.

그러나 책의 여백이 너무 좁아 여기에 적지는 않겠다'

ㅋㅋㅋㅋㅋㅋㅋㅋ 저는 이 글을 읽고 폭소했습니다. 정말 장난꾸러기 천재를 보는 거 같았거든요. 당시 수학자들의 분위기처럼 그의 말을 허풍으로 들을 수도 있었을 겁니다. 하지만 주석에 남긴 여러 풀이 때문에 그가 천재라는 게 확실시되면서 모두 이 문제에 빠지게 된 것입니다. 그러나 페르마의 마지막 정리는 많은 수학자의 노력에도 불구하고 300년 이상 풀리지 않았습니다.

증명하는 데 성공한 사람은 앤드루 와일즈였습니다. 열 살배기 소년이었던 앤드루 와일즈는 우연히 도서관에서 발견한 책에서 처음으로 페르마의 마지막 정리를 발견했습니다. “그것은 너무나 단순한 문제였습니다.

열 살인 저도 문제의 내용을 정확히 이해할 수 있었죠. 그런데 그 문제를 푼 수학자가 아무도 없었어요. 그 순간 저는 어떤 운명 같은 걸 느꼈어요” 그는 이후 30년 동안 이 문제를 풀기 위해 노력했고 결국 문제를 풀 수 있었습니다.

재밌는 건 이 문제를 풀어낸 방법이 현대 수학이라는 것입니다. 당시에는 없었던 수학을 통해 해결해 낸 것이죠. 심지어 풀이가 엄청나게 복잡했기 때문에 사람들은 당시 페르마의 해결책이 더 궁금해졌습니다. ‘나는 경이적인 방법으로 이 정리를 증명했다’ 경이적인 방법이었던 그 당시 수학은 뭐였을까요? 그것은 아직도 궁금증으로 남아있다고 합니다.