‘페르마의 마지막 정리’ (3)
여성 수학자들과 소피 제르맹, 좌절의 시기 제4장 추상의 세계로
여성 수학자들과 소피 제르맹의 기여
이후 19세기에 들어 젊은 프랑스 여류 수학자가 혜성처럼 나타나 <페르마의 마지막 정리>에 큰 진전을 보여주게 되는데, 바로 당시 여성 수학자에 대한 차별 때문에 여성임을 밝히지 않고 ‘르 블랑(Le Blanc)’이라는 예명을 쓰고 활동했던 ‘소피 제르맹’(Sophie Germain)이다.
여기서 저자는 역사상 유명했던 여류 수학자들에 대해 소개한다. 피타고라스의 아내였던 ‘테아노’ 외에 기원전 4세기경 알렉산드리아에서 유창한 강연과 탁월한 문제 해결능력으로 명성을 떨쳤던 ‘히파티아’(hypatia)가 알렉산드리아의 키릴루스 대주교의 박해로 인해 살해된 이야기를 ‘에드워드 기번’(Edward Gibbon)의 고증을 통해 인용하고 있다(스페인 영화 ‘아고라’가 히파티아의 이야기를 다루고 있다).
운명의 그날, 거룩한 사순절 기간 중에 페트루스가 이끄는 야만적인 폭도들은 히파티아를 마차에서 끌어내려 옷을 모두 벗기고 교회로 끌고 갔다. 그리고 그곳에서 그녀는 무참히 살해되었다. 그녀의 살은 날카로운 칼에 갈가리 찢겨나갔으며 그녀의 떨리는 손은 불덩이 속에 던져졌다.
저자는 이후 르네상스 시대에 이르러 이탈리아 출신의 ‘마리아 아그네시’(Maria Agnesi)라는 또 한 명의 여성 수학자가 ‘곡선의 접선 계산법’으로 이름을 떨쳤으나 ‘아그네시의 곡선’을 영어로 잘못 번역하여 ‘마녀 아그네시’로 오해받은 이야기와 아인슈타인도 ‘여성의 고등교육이 시작된 이래 가장 훌륭한 천재적 학자’라고 극찬했던 ‘에미 뇌터’(Emmy Nowther)조차도 괴팅겐 대학의 강사 임용에서 여성 차별로 인해 탈락한 이야기들을 꺼낸다.
또한 소련 출신의 위대한 수학자 ‘소냐 코발레프스키’는 남편이 플라토닉한 사랑만으로도 만족할 수 있어 결혼할 수 있었다는 이야기, 영국의 여류 수학자 ‘메리 서머빌’(Mary Somerville)의 아버지가 딸이 사용하던 촛대를 모두 빼앗으며 수학 공부를 방해한 이야기 등을 한다.
이렇듯 당시 유럽 사회가 여성 수학자들에 대해 엄청나게 차별을 하였고 그중에서도 “수학은 여인들의 지적 수준을 넘어서 있다.”며 가장 쇼비니즘적 행동을 보였던 나라는 프랑스였다고 한다.
[출처 구글 이미지]소피 제르맹
소피 제르맹은 어린 시절 장 에티엔 몽뒤클라의 《수학의 역사》에서, ‘아르키메데스’가 70세에 땅바닥에 도형을 그려놓고 기하 문제에 몰두하다가 로마 병사에 죽임을 당한 이야기를 읽고 "수학이란 일생을 걸고 연구해 볼 만한 가치가 있는 학문일 것이다"라고 생각하고 그때부터 수학 공부에 몰입했다고 한다.
[아르키메데스의 죽음, 출처 구글 이미지]그렇지만 당시 여성을 심하게 차별하는 프랑스의 분위기 때문에 그녀는 ‘앙투안 오귀스트 르 블랑’이라는 예명을 쓰며 신분을 속이고 파리 고등기술학교에 등록하여 수학 공부를 계속하였고, 드디어 19세기 위대한 수학자였던 ‘라그랑주’와 인류 역사상 가장 천재적인 수학자 ‘가우스’에게도 실력을 인정받게 되었다고 한다.
소피 제르맹은 소수 중에서도 ‘p가 임의의 소수일 때 2p +1도 역시 소수가 되는 그런 부류의 소수’(예를 들어 5와 11(2x5+1)의 경우는 해당, 13의 경우에는 13x2+1=27이 되어 해당하지 않음)의 경우에는 <페르마의 마지막 정리>를 증명할 수 “있을 것 같다”(아직 완벽하게 증명하지 못했기 때문에)는 논리를 전개했다고 한다.
이것은 “특정한 부류의 소수 n에 한하여 정수해 (x, y, z)가 존재하려면 셋 중 하나 이상은 반드시 n의 배수가 되어야 한다“는 것인데 이는 매우 강력한 제한 조건이 되어 이것을 만족하는 정수해는 존재할 가능성이 거의 없어 보였기 때문이라고 한다.
이후 1825년에 이러한 제르맹의 방법을 바탕으로 ‘페테르 구스타프 르죈느 디리클레’와 ‘아드리앵 마리 르장드르’는 n=5일 때 <페르마의 마지막 정리>를 완벽하게 증명하는 데 성공했다고 한다.
그리고 그로부터 14년 뒤 프랑스의 수학자 ‘가브리엘 라메’ 역시 제르맹의 방법에 자신의 새로운 논리를 추가하여 n=7일 때 정수해가 없음을 증명해 냈다고 한다. 그 뒤로 정수론 학자들은 그녀의 아이디어를 도입하여 개개 소수값에 하나씩 차근차근 <페르마의 마지막 정리>를 증명해 나가기 시작했다고 한다.
소피 제르맹은 물리학 분야에서도 ‘탄성을 가진 평면판의 진동 현상에 관한 연구’를 하여 현대 탄성 물리학의 기초를 다졌고 이는 에펠탑의 설계에 큰 기여를 하였다고 한다. 이러한 업적으로 그녀는 프랑스 학회에서 메달을 받고 그곳에서 강의를 맡은 최초의 여성이 되었다고 한다.
그럼에도 불구하고 철제 빔의 탄성적 성질에 관한 분야에 위대한 업적을 남긴 72인의 학자들을 선정하여 에펠탑의 철제 기둥에 명단을 새겨 넣을 때 그녀의 이름이 빠졌고, 그녀가 죽었을 때 정부 관리들은 그녀를 ‘수학자’가 아닌 ‘뚜렷한 직업이 없는 독신녀’라고 표현했다고 한다;;;.
좌절의 시기
이후 프랑스 과학 학술원이 <페르마의 마지막 정리>를 완전하게 증명하는 사람에게 순금 메달과 3,000프랑의 상금을 내걸었는데, 당시 저명한 수학자들이었던 ‘가브리엘 라메’와 ‘오귀스탱 루이 코시‘(Ausutin Louis Cauchy)가 서로 자신이 증명을 해냈다고 다투면서 출판까지 하는 일도 있었다고 한다.
그렇지만 독일 수학자 '에른스트 쿰머'(Ernst Kummer)가 그들 논리의 결정적인 오류를 지적하면서, 당시의 수학 수준으로는 <페르마의 마지막 정리>를 완전하게 증명하는 것이 불가능한 일임을 보여주었다고 한다.
결국 1857년 프랑스 과학 학술원은 <페르마의 마지막 정리> 증명에 걸었던 상금을 폐지하였고 그 뒤로 150년간 <페르마의 마지막 정리>를 증명하려는 모든 노력은 한결같이 수포로 돌아갔다고 한다.
제4장 추상의 세계로
증명이란 수학자들이 스스로를 고문하면서 추구하는 그들만의 우상이다.
- 아서 에딩턴경(Sir Arthur Eddington)
볼프스켈상
20세기가 막 시작될 무렵, 대부분의 수학자들은 <페르마의 마지막 정리>를 연금술과 마찬가지로 모두 한물간 구시대의 신기루쯤으로 취급하는 분위기였는데, 이 상황에서 <페르마의 마지막 정리>에 새로운 생명력을 불어넣은 건 독일 다름슈타트 출신 실업가 ‘파울 볼프스켈’(Paul Wolfskehl)이었다.
그는 대학에서 수학을 전공하고 <페르마의 마지막 정리>에 관심을 가지고 있었지만 주로 부친에게 물려받은 사업에 몰두하며 지내고 있었는데, 짝사랑의 슬픔으로 권총 자살을 하려던 날 밤 직전에 위에서 언급한 코시와 라메의 오류를 지적한 쿰머의 논문을 읽다가 흥미를 느끼고 몰두하면서 자살하려던 시간을 훌쩍 넘겨 버렸다고 한다.
볼프스켈은 아침이 되자 전날 써두었던 유서들을 모두 찢어버리고 "<페르마의 마지막 정리>를 증명하는 사람에게 자신의 재산 대부분을 기부하겠다"고 나섰다고 한다. 그가 내걸었던 상금은 10만 마르크로 오늘날 화폐가치로 따진다면 100만 파운드가 넘는 거금이었다. 1908년 이 돈은 괴팅겐의 왕립과학원에 기탁되어 ’볼프스켈상‘이라고 정식 명명되고 100년 후인 ‘2007년 9월 13일’을 기한으로 했다고 한다.
당시 유럽과 미국 사회에서는 수수께끼 유의 문제들이 유행하면서 간단한 수학 퀴즈부터 <페르마의 마지막 정리>와 같은 난제에 이르기까지 다양한 종류의 수학 문제들이 일반 대중과 아마추어 수학광들 사이에 퍼져 나갔다고 한다.
이 중 가장 유명한 사람은 미국의 퍼즐 천재 ‘샘 로이드’(Sam Loyd)였는데 그가 만든 퍼즐 중 가장 유명한 것은 ‘14-15’ 퍼즐(아래 그림처럼 1부터 13까지는 순서대로 배열되어 있고 14번과 15번 타일만 맞바뀐 상태)였고 여기에도 1,000달러의 상금이 걸려 있었다고 한다.
어쨌든 이러한 분위기 덕에 볼프스켈 상에는 처음 1년 간 무려 621건이 접수되었는데 이 중에는 증명과정의 반만 써놓고 1,000마르크를 보내주면 나머지 반을 공개하겠다는 황당한 편지도 있었다고 한다.
심지어 자신의 증명을 정답으로 인정해 주면 그 이후 들어올 수입의 1%를 주겠다고 제안하거나 자신의 답을 정답으로 인정해 주지 않으면 자신의 정답을 러시아 학회에 공개하여 자신과 같은 천재를 발견하는 영광을 누리지 못하게 하겠다는 협박 편지도 있었다고 한다.
과학원 측은 “귀하의 증명이 잘못되었음을 발견했지만 불행히도 편지지의 여백이 부족하여 여기 옮기지 못함을 유감스럽게 생각합니다”라는 답장을 보내주곤 했다고 한다.
논리수학자들의 시대
이후 19세기말이 끝나갈 무렵 논리수학자들은 새로운 분야를 향한 진보의 발길을 잠시 멈추고 수학의 모든 것을 떠받치고 있는 근본적 진리를 다시 되돌아보자는 운동이 시작되었다고 한다. 즉 몇 개의 공리를 도구 삼아 방대하면서도 복잡하기 이를 데 없는 수학을 완전히 재정립하는 길고도 지루한 작업에 매달렸다고 한다.
이러한 수학의 재검증 과정을 선도했던 사람은 당대 최고의 수학자였던 ‘다비드 힐베르트’였고, 그는 기본 공리들에서 모든 수학이 유도될 수 있고, 또 그렇게 되어야만 한다고 굳게 믿었다고 한다. 이 글의 맨 처음에 언급했듯이 그는 1900년 8월 8일 파리에서 개최된 국제수학회에서 23개의 미해결 문제를 제시했는데 대부분은 논리적 기초와 관련된 것들이었다.
당시 이러한 ‘힐베르트의 계획’에 동조하고 참여했던 유명한 수학자들은 고틀로프 프레게(Gottlob Frege), 영국의 버트런드 러셀 등이었고(러셀은 한때 ‘소심한 도서관 사서의 일화’ 역설로 고민했으나 10년 동안 새로운 공리를 찾는데 전념하여 이런 역설을 거의 해결했었다고 한다) 그들의 노력으로 인해 힐베르트의 꿈은 거의 실현되는 듯했다고 한다.
[소심한 도서관 사서의 일화]
어떤 도서관 사서가 자신이 근무하는 도서관의 책을 분류하기 위해 카탈로그를 제작하기 시작했다. 그렇게 도서관에 있는 모든 책을 대상으로 카탈로그를 만들고, 카탈로그를 내용으로 하는 카탈로그도 만들면서 도서관의 책과 카탈로그를 이용해서 만든 카탈로그들의 모음을 만들었다.
카탈로그를 전부 만든 도서관 사서는 마지막으로 두 개의 카탈로그를 만들었는데, 이 두 개의 카탈로그는 지금까지 만든 모든 카탈로그를 대상(원소)으로 하는 카탈로그이며, 카탈로그 A는 '자기 자신을 포함하지 않는 카탈로그들의 카탈로그', 카탈로그 B는 '자기 자신을 포함하는 카탈로그들의 카탈로그'로 정의하여 지금까지 만든 카탈로그를 전부 카탈로그로 묶었고 추후 새로 만들어지는 카탈로그도 두 카탈로그 중 하나에 속하도록 만들었다(당연히 A와 B의 정의는 상반되므로 모든 카탈로그는 A와 B 둘 중 하나에는 반드시 들어가야 한다).
그렇다면 이 경우 카탈로그 A와 카탈로그 B도 (도서관에 있는 카탈로그이므로) 카탈로그 A와 카탈로그 B 중 하나에 포함시켜야 하는 상황이 발생한다. 이 경우 카탈로그 B는 카탈로그 B에 속해도 문제가 없다. 왜냐하면 카탈로그 B는 카탈로그 B를 원소로 함으로써 '자기 자신을 포함하는 카탈로그'가 되었으며 그렇기 때문에 카탈로그 B에 속해도 아무 문제가 없기 때문이다.
문제는 카탈로그 A는 카탈로그 A에도 B에도 들어갈 수 없다. 만약 카탈로그 A가 카탈로그 A에 속하게 되면 카탈로그 A는 '자기 자신을 포함하는 카탈로그'가 되므로 카탈로그 A에 속할 수 없다. 그러나 카탈로그 A가 카탈로그 B에 속하게 되면 카탈로그 A는 '자기 자신을 포함하지 않는 카탈로그'가 되므로 카탈로그 B에 속할 수 없다.
따라서 이 경우 카탈로그 A는 A에도 B에도 속할 수 없는 카탈로그가 되고, 도서관의 모든 카탈로그는 카탈로그 A와 B 중 하나에 속해야 한다라는 점과 모순이 발생한다.
그런데 1931년 약관 25세의 체코 출신 ‘쿠르트 괴델’이 ‘결정불가능론’(theorems of undecidability), 즉 완전하고도 모순 없는 수학체계를 세우는 일이 불가능하다는 사실을 증명하는 사건이 발생하였다.
결정불가능성의 제1정리
공리에서 출발한 모순 없는 이론적 체계에는 증명할 수 없고 반증도 할 수 없는 정리가 반드시 존재한다.
(수학이 어떤 공리에 기초를 두고 있건 간에 대답할 수 없는 질문이 반드시 존재하기 때문에 수학은 완전성을 갖지 못한다는 뜻이다)
결정불가능성의 제2정리
공리에서 출발한 이론의 타당성을 증명할 수 있는 방법은 존재하지 않는다.
(수학 자체는 자신이 선택한 공리가 모순을 초래하지 않는다는 것을 보장할 수 없기 때문에 하나의 수학 체계가 모순되지 않음을 증명할 방법이 아예 없다고 주장하고 있다는 뜻이다)
괴델의 첫 번째 정리는 ‘크레타의 역설’ 또는 ‘거짓말쟁이의 역설’이라는 이야기로 간단히 설명할 수 있다.
크레타 섬에 살고 있는 에피메니데스(Epimenides)는 어느 날 ‘나는 거짓말쟁이이다!“라고 주장했는데 이 문장이 참인지 거짓인지를 판별하려고 하면 당장 역설적인 결과를 낳게 된다는 것이다.
만약 이 문장이 참이라고 가정하면 에피메네디스는 거짓말쟁이이지만 그는 분명 사실을 말한 것이라서 거짓말쟁이가 아니게 된다. 만약 이 문장이 거짓이라고 가정한다면 거짓말쟁이가 아닌 에피메니데스는 자신을 거짓말쟁이라고 거짓말을 한 게 되어 역시 모순이 된다.
결국 괴델은 ‘이 문장에는 아무런 증명도 들어 있지 않다’는 논리로서 결정불가능한 명제가 수학에 존재한다는 사실을 입증했고, 이런 방식에 의하면 <페르마의 마지막 정리>가 참일 수도 있지만, 이 경우 그것을 증명할 방법이 없을 수도 있다는 것이다.
이와 비슷한 발견이 양자물리학에서도 있었는데 괴델이 주장하기 4년 전 독일 물리학자 베르너 하이젠베르크(Werner Heisenberg)는 그 유명한 ‘불확정성의 원리’(Uncertainty principle)를 발견하였는데, 물리적 대상을 위치와 운동량을 동시에 정확하게 측정하는 데에도 근본적인 한계가 있다는 것이다.
하이젠베르크 불확정성 원리( Heigenberg's uncertainty principle)는 양자 역학에서 맞바꿈 관측가능량(commuting observables)이 아닌 두 개의 관측가능량(observable)을 동시에 측정할 때, 둘 사이의 정확도에는 물리적 한계가 있다는 원리이다. 불확정성 원리는 양자역학에 대한 추가적인 가정이 아니고 양자역학의 통계적 해석으로부터 얻어진 근본적인 결과이다. 하이젠베르크의 불확정성 원리는 위치-운동량에 대한 불확정성 원리이며, 입자의 위치와 운동량을 동시에 정확히 측정할 수 없다는 것을 뜻한다. 위치가 정확하게 측정될수록 운동량의 퍼짐(또는 불확정도)은 커지게 되고 반대로 운동량이 정확하게 측정될수록 위치의 불확정도는 커지게 된다. (출처: 위키백과)
수학과 전쟁
한편 2차 세계대전이 일어나면서 수학 역시 전쟁의 소용돌이에 휘말리게 되었다.
1944년 ‘천재 중의 천재’로 유명한 헝가리 출신의 수학자이자 과학자인 존 폰 노이만(John Von Neumann)은 그의 책 《게임과 경제의 운영에 관한 이론》에서 ‘게임 이론’이란 용어를 처음 도입하였는데, 게임 이론은 게임의 구조와 그것을 진행하려는 인간의 성향을 수학적으로 서술하기 위해 노이만이 창안한 수학 분야이다.
그는 이를 더욱 복잡한 구조를 가진 게임, 즉 경제에 이르기까지 포괄적으로 적용할 수 있는 이론체계를 구축하였는데 2차 대전 이후 RAND사는 노이만의 아이디어가 냉전체제 아래서 벌어질 첩보전에 유용하게 적용되리라고 예상하여 그를 고용하기도 했고 군대에서도 그의 이론을 기본 전략으로 채택하기도 하였다(그의 이론을 더욱 발전시켜 노벨 경제학상을 받은 미국의 천재 수학자 존 내쉬에 관한 영화 ‘뷰티플 마인드’도 강추^^).
전쟁에서 게임 이론보다 더욱 유용한 수학이 바로 ‘암호해독법’인데, 여기서는 독일군의 암호발생 장치인 ‘에니그마 머신’을 해독했던 전설적인 비운의 수학자 ‘앨런 튜링’의 이야기가 나온다(그가 동성애로 기소되어 화학적 거세형을 거부하고 자살하면서 청산가리를 넣은 사과를 먹다 남겼는데 이 모양이 애플의 로고가 되었다는 확인되지 않은 이야기가 있다).
앨런 튜링은 인공지능의 개념과 튜링 테스트(‘이미테이션 게임’이라고도 한다)를 개발하여 인공지능의 아버지로 불리기도 하는데, 그의 일대기가 영화화되어 상당한 인기를 끌기도 했고(영화 ‘이미테이션 게임’), 최근에 명예가 회복되어 새로 발행된 영국의 50파운드 화폐의 초상 인물로 스티븐 호킹 박사를 제치고 엘리자베스 여왕과 함께 선정되기도 하였다.
수학과 컴퓨터
2차 대전이 끝난 후 노이먼과 앨런 튜링은 프로그램이 가능한 세계 최초의 컴퓨터를 각자 만들었는데, 그로부터 수십 년이 흐른 뒤, 수학에서도 ‘방대한 양의 계산’이라는 걸림돌은 점차 사라지게 되었다고 한다.
2차 대전이 끝난 뒤 컴퓨터 공학자와 수학자들은 500 이하의 모든 정수에 대하여 <페르마의 마지막 정리>를 모두 증명했고, 1980년대에 이르러 일리노이 대학의 새뮤얼 와그스태프(Samuel S. Wafstaff)는 25,000 이하의 모든 정수에 대하여 <페르마의 마지막 정리>가 성립함을 입증했다고 한다.
하지만 저자는 이 것은 단지 <페르마의 마지막 정리>가 올바른 정리임을 보여주는 증거들을 제시한 것뿐이고 수학자들은 여전히 엄밀하게 증명된 것은 아니라고 생각했다고 한다. 아래의 예처럼 몇 개의 숫자들에 대하여 하나의 정리가 성립됨이 입증되었다 해서 이로부터 무한히 많은 숫자에 이 정리가 적용된다고 믿는 것은 매우 위험한 도박행위와 다를 것이 없다고 한다.
그 예로 17세기 수학자들은 다음과 같은 수들(모든 자리에 3이 들어 있고 마지막이 1인 숫자)이 모두 소수라는 사실을 알아냈다.
31 ; 331 ; 3,331 ; 33,331 ; 333,331 ; 3,333,331 ; 33,333,331
그런데, 그다음 333,333,331도 당연히 소수일 거라고 생각하고 이를 일반적으로 증명할 수 있는 논리를 찾아내려고 노력했는데, 컴퓨터를 사용한 후에 그 수는 소수가 아니라는 점이 밝혀졌다.
333,333,331 = 17 x 19,607,843
또한 오일러는 페르마의 방정식에서 n=4인 경우, 하나의 항을 추가한 방정식에서도 정수해가 존재하지 않는다고 주장했으나(‘오일러의 추론’), 이 역시 1988년 하버드 대학의 노엄 엘키스(Noam Elikies)가 컴퓨터를 통해 x=2,682,440, y=15,365,639, z=18,796,760일 경우 각 수의 네 제곱의 합은 20,615,673의 네제곱과 일치한다는 것을 찾아낸 사례를 들고 있다.
또한 1791년 ‘가우스’가 14세의 나이에, 숫자가 증가함에 따라 나타나는 소수의 대략적인 빈도수를 예견했는데 1,000,000,000,000까지는 실제 개수보다는 항상 많았다는 ‘과대평가된 소수의 추론’도 1955년 스큐즈(S. Skewes)가 ‘10의 10승의 10,000,000,000,000,000,000,000,000,000,000,000승’(‘스큐즈의 수’라고 하는데, 이 수는 이 우주 안에 존재하는 모든 입자(약 10의 87승개)를 말판 삼아 체스게임을 벌인다고 가정했을 때 발생 가능한 모든 게임의 수와 대략 비슷한 정도하고 한다)이라는 수로 가면 그 추론이 틀리다는 것을 밝혀내기도 했다.
[위: 노엄 엘키스, 아래: 스탠리 스큐즈와 그의 메모]이런 사례들을 통해 수학자들 사이에서는 어쩌면 <페르마의 마지막 정리>도 애초부터 틀린 정리일 수 있고 그것이 반드시 성립한다는 보장은 어디에도 없다는 인식도 퍼져 나가고 있었다고 한다.
<4편에 계속>
