도대체 리만 가설이 뭔데?
소수를 찾기 위한 수학자들의 모험의 역사
참고문헌
Bernhard Riemann. On the number of primes less than a given magnitude. 1859
케이스 데블린(전대호 역). 수학의 밀레니엄 문제들 7. 까치. 2004
클리퍼드 픽오버(김지선 역). 수학의 파노라마. 사이언스북스. 2015
Brit Cruise. 소수 정리. Khan Academy Labs
http://blog.naver.com/PostView.nhn?blogId=hanna4540&logNo=10138822578
"리만가설이 증명된 것 같습니다"
(이 글을 쓰기 이틀 전인) 지난 2018년 9월 21일(한국 시간). 대수기하학, 미분기하학 및 대수적 위상수학에 큰 업적을 남겼으며, 이러한 공로를 인정받아 필즈메달(1966)과 아벨상(2004)을 수상한 영국의 수학자 마이클 프랜시스 아티야가 '리만 가설'을 증명했다는 소문이 SNS를 강타했다(https://g.co/kgs/Wu8Mv9).
https://twitter.com/HLForum/status/1042670700652318720독일 하이델베르크 수상자 포럼(HLF 2018)이 트위터를 통해 오는 9월 24일(한국시간으로는 25일) 마이클 아티야 박사가 강연을 통해 리만가설 증명에 관해 설명할 예정이라고 밝힌 것이다.
아티야가 누구인가?
2000년 5월 24일 콜레주 드 프랑스의 한 강당. 영국의 마이클 아티야와 미국의 존 테이트는 가장 어려운 미해결 수학 문제 일곱 개를 선정하여 이를 '밀레니엄 문제'라 명명하고 이 일곱 개의 문제 중 하나를 해결하는 개인 혹은 단체에게 100만달러의 상금을 수여하겠노라고 발표한다.
리만 가설
양-밀스 이론과 질량 간극 가설
P 대 NP 문제
내비어-스톡스 방정식
푸앵카레 가설
버치-스위너톤다이어 가설
호지 가설
- 마이클 아티야와 존 테이트가 발표한 <밀레니엄 문제 7>
공모기간은 무제한이며 상금은 (수학을 열렬히 사랑하는 미국의 부호) 랜던 클레이가 자신의 고향인 메사추세츠 주 케임브리지에 설립한 클레이 수학 연구소(CMI)에서 지급하기로 한 것이다. 만약 아티야의 증명이 올바른 것으로 판명된다면 100만달러의 상금이 상금의 발표자에게 돌아가는 코믹한 해프닝이 벌어지게 된다.
‘리만 가설’이 뭔데요?
리만 가설이란
리만 제타 함수를 0이 되게 하는 자명하지 않은 모든 복소수 근의 실수부가 ½이다
라는 추측으로, 리만은 이 가설을 1859년 <주어진 크기보다 작은 소수들의 개수에 관하여On the number of primes less than a given magnitude>라는 제목의 논문을 통하여 발표한다. 이 논문은 수 이론에 관하여 리만이 발표한 유일한 논문으로 알려져 있다. 이 논문이 자신의 스승인 가우스를 기념하기 위해 쓰여졌다는 세간의 설이 설득력있는 이유다.
리만 가설은 오일러의 제타 함수와 관련이 있다. ζ(s)로 표현되는 이 함수는 무한급수로 정의되는 함수이다. 또한 리만 가설은 리만의 박사학위 지도교수였던 가우스의 추측과도 관련이 있다. 가우스는 충분히 큰 수 N에 대하여 N이하의 소수 밀도, 즉 (N이하의 소수의 개수)/N가 근사적으로 1/ln(N)이라고 추측을 했다. 리만은 오일러의 제타함수를 발전시킨 리만 제타함수를 도구로 하여 "주어진 크기보다 작은 소수들의 개수에 관한" 가우스의 추측을 증명하고자 했다. 그리고 증명의 핵심이 되는 개념이 바로 '리만 가설'이었다.
결론부터 말하면 리만은 성공하지 못했다. 아니, 성공하기에는 너무나 시간이 부족했다. 수학의 세계는 넓고 그가 할 일은 무척 많았지만 41년의 생애 동안에 모든 것을 해결할 수는 없었다. 그럼에도 불구하고 일반 상대성 이론에 아이디어를 제공한 리만 기하학을 비롯하여 리만 적분, 코시-리만 방정식, 리만 다양체, 그리고 이 글에서 언급되는 리만 제타 함수와 리만 가설에 이르기까지 그의 업적은 무궁무진하다.
바탕이 되는 수, 소수
중학교에 입학하면 수학 시간에 제일 먼저 배우는 것이 소수이다. 요소要素, 소재素材와 같은 낱말에 쓰이는 소素를 과학에서는 원소元素라는 낱말에 사용한다. 주기율표의 가장 첫 번째 화학원소이자 물을 구성하는 원소인 수소水素, 인간이 숨을 쉬기 위해서는 반드시 필요한 산소酸素, 모든 생명체의 구성물이자 공기 중에서 가장 많은 비중을 차지하는 질소窒素 등이 바로 원소이다.
자연의 바탕이 되는 것이 원소元素인 것처럼, 자연수의 바탕이 되는 수를 소수素數라고 한다. 그렇다면 왜 소수가 자연수의 바탕이 되는 것일까? 소수란 1과 그 수 자신만을 약수로 갖는 수를 말한다. 1은 모든 수의 약수이기 때문에 1을 제외한다면 결국 자신만을 약수로 갖는다. 즉 소수는 더 이상 쪼갤 수가 없다.
그래서 1을 제외한 모든 자연수는 소수이거나 소수의 곱으로 표현된다. 약수가 3개 이상인 수, 즉 1과 그 수 자신 이외에 또 다른 수를 약수로 가지는 수를 합성수composite number라고 하는데, 이는 합성수가 소수의 곱으로 합성composite되어 있기 때문이다. 합성수를 소수의 곱으로 나타내는 것을 소인수분해라고 한다.
정수론의 기본정리
곱하는 방법이 달라도 소인수분해 된 결과는 단 하나 밖에 없다. 이를 ‘정수론의 기본정리’라고도 하는데 유클리드는 <원론>에서 이를 증명했다.
1보다 큰 모든 자연수는 꼭 한 가지 방법으로 소수의 곱으로 표현할 수 있다.
그런데 왜 ‘1보다 큰’이라는 단서조항이 붙었을까? 그 이유는 1이 소수가 아니기 때문이다. 1이 소수에 포함될 경우에는 다음과 같은 문제도 발생한다. 예를 들어 6=2×3=1×2×3=1×1×2×3= … 등으로 나타낼 수 있기 때문에 "꼭 한 가지 방법으로" 소수의 곱으로 표현할 수 있다는 정수론의 기본정리가 성립하지 않게 된다.
소수의 밀도
학생들은 에라토스테네스가 개발한 알고리즘을 이용하여 1부터 100까지의 자연수중에서 소수를 걸러낼 수 있다. 유클리드는 <원론>에서 이미 소수가 무한히 많다는 것을 증명했다. 그런데 문제는 소수가 언제 등장할지를 전혀 예측할 수가 없다는 사실이다.
1부터 100까지의 수 중의 소수의 분포그런데 자세히 들여다보면 소수의 빈도가 점점 줄어든다는 사실을 확인할 수 있다. 즉 숫자가 커지면 커질수록 소수를 발견하기가 점점 힘들어진다. 이를 앞에서 언급한 밀도의 개념으로 표현해보자.
출처 : Brit Cruise, <소수 정리> (Khan Academy Labs)위의 표를 보면 처음 100개의 정수 중에서는 25개의 소수를 발견할 수있다(밀도는 0.25). 또한 처음 1000개의 정수 중에서는 1229개의 소수를 발견할 수 있다(밀도는 0.1229). 같은 방법으로 처음 10000개의 정수 중에는 9592개의 소수가 있고(밀도는 0.0784) 처음 백만개의 정수 중에는 78498개의 소수가 있음을 확인할 수 있다(밀도는 0.0576). 즉 수가 커질수록 소수의 밀도는 떨어진다.
오일러의 제타함수
가우스는 1791년, 불과 열 다섯살의 나이에 소수의 밀도에 대한 어떤 깨달음을 얻었다. 즉, 충분히 큰 N에 대하여 N 보다 작거나 같은 소수의 밀도가 1/ln(N)에 가까워지지 않을까라고 추측하게 된 것이다(이를 가우스의 '소수 정리'라고 한다). 그러나 가우스는 자신의 추측을 증명할 수 없었다. 그런 상황에서 리만이 실변수를 기반으로 하는 오일러의 제타함수를 복소변수를 기반으로 하는 리만 제타함수로 확장시키면서 어떤 돌파구를 마련하려 한 것이다.
오일러의 제타함수는 다음과 같다: 1보가 큰 임의의 실수 s에 대하여
또한 오일러는 이 식을 다음과 같이 변형할 수도 있음을 증명했다.
위의 식을 "오일러 곱 공식"이라고 하는데 재미있는 사실은 s=2일 때의 값이 π²/6이라는 사실이다. 즉 ζ(2)= π²/6이라는 것인데 제타함수와 소수 사이에 어떤 연결고리를 발견했다는 점에서 큰 의미를 갖는다.
리만의 제타함수
오일러가 소수의 성질을 대수학으로 변환하여 어떤 돌파구를 찾았다면 리만은 그것을 다시 기하학으로 변환하여 한 걸음 더 앞으로 나아간다. 리만 제타함수는 정의역이 복소수다. 거기에 함수 ζ를 연결하면 그래프가 곡면이 된다. 리만은 함수의 높이가 0이 되는 점, 즉 영점을 살펴보았다. 그랬더니 -2, -4, -6, … 등 z가 음의 짝수일 경우 ζ(z)=0임을 확인할 수 있었다. 이를 "자명한 영점"이라고 한다. 이어서 그는 실수가 아닌 복소수 해의 경우 실수부의 값이 1/2일 때, 즉 z=1/2 + bi의 형태를 가질 때 ζ(z)=0일 것이라고 직감적으로 깨달았다. 이것이 바로 리만 가설이다. 이를 기하학적으로 표현하면 다음과 같다.
출처 : https://en.wikipedia.org/wiki/Riemann_zeta_function
위의 그림은 리만 제타 함수 ζ(z)를 복소 평면 위에 domain coloring 기법으로 그린 것으로 x축 위쪽 3개와 아래쪽 2개의 동심원 무늬들은 z의 실수부가 1/2일 때의 영점에 해당한다. 이처럼 리만의 논문은 소수와 복소평면 기하학 사이에 밀접한 연관성이 있음을 보여주었다. 그리고 이는 1896년 아다마르와 푸생이 가우스의 ‘소수 정리’를 증명하는 토대가 되었다(자세한 설명은 케이스 데블린이 쓴 <수학의 밀레니엄 문제들 7>(전대호 역, 까치, 2004)에서 확인할 수 있다).
리만 가설이 중요한 까닭은 이 가설이 참이라는 것이 증명될 경우 소수 정리의 증명은 물론 소수 밀도에 대한 보다 정확한 추측이 가능해지기 때문이다. 다시 말해 (컴퓨터를 활용하여) 소수가 어디에 숨어 있는지 좀 더 빨리 찾아낼 수 있게 된다는 것이다.
전설이 만들어지다
8쪽 분량의 짧은 논문 <주어진 크기보다 작은 소수들의 개수에 관하여>를 쓰고 나서 리만은 (어쩌면 페르마를 흉내내어) 다음과 같은 편지를 바이어슈트라스에게 보낸다.
물론 이것(리만 가설)을 엄밀하게 증명할 필요가 있을 것이다. 나는 몇 번 대략적인 시도를 했지만 실패했고, 현재는 증명작업을 제쳐둔 상태이다. 왜냐하면 내 연구의 다음 목표를 위해서 그 증명이 필수적이어보이지는 않기 때문이다.
리만 본인에게는 이 가설의 증명이 필수적이어보이지 않았는지 모르지만 다른 수학자들은 그렇게 생각하지 않았다. 1900년 제1회 수학자 대회에서 힐베르트는 20세기에 수학자들이 반드시 해결해야 할 23가지 미해결 문제 속에 '리만 가설'을 포함시킨 것이다. 심지어 힐베르트는 이런 말을 했다고 전해진다.
만약 내가 1000년 동안 잠들어 있다가 깨어난다면 아마 제일 먼저 이렇게 물을 것이다. 리만 가설은 증명되었습니까?
전설이 탄생하게 된 순간이다.
힐베르트가 제시한 23가지 미해결 문제 (출처 : http://blog.naver.com/PostView.nhn?blogId=hanna4540&logNo=10138822578)그러나 리만 가설은 수많은 수학자들을 괴롭히며 아직까지 해결되지 않고 있다. 내노라하는 수많은 수학자들이 이 문제를 증명하기 위해 도전했으나 지금까지 처절한 실패만 맛보았을 뿐이다(2018년 봄 KAOS 강연 <모든 것의 수(數)다>에서 일평생 리만 가설과 씨름하고 있는 수학자의 '리만 가설' 강연이 소개된 바 있다. https://youtu.be/_02sxtRrdU4 참조). 그리고 결국 20세기를 넘어 21세기에 해결해야 할 일곱 개의 '밀레니엄 문제' 속에까지 포함된 것인데, 18년 전 밀레니엄 문제를 직접 발표했던 89세의 노수학자가 "내가 증명했노라"고 선언한 것이다.
수학, 역사
어떤 이들은 고작 수학 문제 하나 가지고 무슨 호들갑이냐고 할지도 모르겠다. 그러나 사실은 그렇지 않다. 하나의 수학문제 속에는 그 문제가 등장하기까지의 역사적 맥락이 숨겨져 있다. 그 속에는 매우 드문 성공의 역사와 그보다 훨씬 많은 실패의 역사가 포함되어 있다. 수학자들은 성공의 역사를 경탄의 눈으로 바라보며 열정을 불태우지만 그들을 올바른 길로 인도하는 안내자는 실패의 역사들이다. 실패의 역사를 살피지 않으면 똑같은 실패를 반복할 수밖에 없기 때문이다. 무수히 많은 실패의 방법론들은 바로 폐기처분되지 않고 수학자들의 통찰과 거듭되는 시도에 의해 재활용되기도 한다. 그리고 마침내 하나의 문제가 해결되는 순간 그동안 시도되었던 다양한 사례들은 재구성되어 하나의 거대한 방법론으로 재탄생하게 된다. 이것이 바로 수학의 역사다.
아티야는 정말 해냈을까? 어쩌면 내일 모레 무덤 속에 잠들어 있는 힐베르트를 깨워야 할지도 모르겠다. 기대되는 순간이다.
리만 본인에게는 이 가설의 증명이 필수적이어 보이지 않았는지 모르지만 다른 수학자들은 그렇게 생각하지 않았다. 1900년 제1회 수학자 대회에서 힐베르트는 20세기에 수학자들이 반드시 해결해야 할 23가지 미해결 문제 속에 '리만 가설'을 포함시킨 것이다. 심지어 힐베르트는 이런 말을 했다고 전해진다. "만약 내가 1000년 동안 잠들어 있다가 깨어난다면 아마 제일 먼저 이렇게 물을 것이다. 리만 가설은 증명되었습니까?" 전설이 탄생하게 된 순간이다.
