불확실한 학문

수학이 답이 정해져 있는 확실한 학문이라고?

 수학을 좋아하는 학생들에게 왜 수학을 좋아하냐고 물으면, "수학은 다른 학문들과 달리 답이 하나로 정해져 있고 확실해서 좋아." 하고 대답하는 경우가 많다. 나도 처음엔 수학은 확실하고 정확한 학문이라고 생각했고, 수학의 그러한 성격에서 오는 기쁨을 즐겼다. 어떤 문제를 풀고 답이 하나로 나왔을 때의 기쁨은 생각보다 정말 크다. 그렇지만 수학이 답이 정해진 확실한 학문이라고 이야기하는 사람들은, 수학이라는 거대한 빙산의 일부만 보고 있는 사람들이다. 우리가 수학하면 흔히 생각하는 복잡한 계산 문제들, 기하적인 접근을 통해 해결하는 문제들, kmo에 나오는 정말 어려운 문제들까지, 모두 보이는 빙산의 일부라고 할 수 있다. 수학은 우리가 생각할 수 없는 영역까지 뻗어있는데, 그렇다면 과연 어떤 영역까지 수학이라 할 수 있을까? 수학은 우리 세계에서 어디까지 뻗어나가 있을까?

수학의 불확실성을 상징하는 "소수"

 지금부터 할 얘기는 조금 많이 길다. 하지만 결국 소수에서 시작하여 소수에서 끝날 이야기이다. 현재 전 세계적으로 존재하는 수많은 난제들은 각각마다 내용이 다르고, 결이 다르다. 하지만 나는 이 모든 난제들이 결국은 소수 체계에서 만나리라 생각한다. 소수는 겉으로 보기에도 제일 미스터리하고 신기한 존재이다. 그냥 겉으로 보면 아무도 소수의 규칙을 발견할 수는 없다. 옛날부터 시작하여 지금까지 수많은 수학자들이 소수에 관한 규칙을 발견하려고 노력했고, 그래서 현재에는 소수에 관한 가설들이 셀 수 없을 만큼 많다. 문제는, 이 소수에 관한 모든 가설들은 아직 "가설"이라는 점이다.

 

 소수에 관한 가설 하면 대표적으로 떠오르는 가설은 리만 가설일 것이다. 현재 리만 가설은 수많은 가설들 중 제일 주목받는 가설 중 하나이고, 정말 많은 사람들이 리만 가설을 풀기 위해 시간과 열정을 바친다. 리만 가설의 어떤 부분이 그렇게 대단하길래 다들 난리일까? 많은 수학자들은 리만 가설이 풀린다면 현재 우리 세상의 모든 암호체계가 뚫리고 세계가 돌아가는 규칙의 해답을 얻을 수 있을 것이라 주장한다. 소수의 규칙성을 증명해 낼 수 있는 리만 가설이 물리학의 공식과도 큰 연관이 있다는 사실도 밝혀졌다. 사실, 리만 가설의 내용을 보면 아무리 가설이라 할지라도 엄청난 경우의 수에 대해 오류가 하나도 나지 않았다. 그 말인즉슨, 이 가설은 아직 증명되지만 않았을 뿐이지 참인 명제일 확률이 99%쯤 된다는 뜻이다. 그렇다면 전 세계가 열광하고 있는 이 리만 가설이 아직 풀리지 않은 이유는 무엇일까?

 리만 가설을 포함한 소수에 관한 수많은 가설들은 첫 문단에서 이미 말했던 것처럼 아직 "가설"이다. 이 모든 추측들이 사실일 가능성이 매우 높다고 해도, 아직 그 어떤 것도 완벽히 증명되지 않았다. 나는 이 점이 이상하다. 혹시 콜라츠 추측에 대해 아는가? 1 이상인 임의의 자연수에 대해 이 자연수가 홀수면 3을 곱하고 1을 더하고, 짝수면 2로 나눈다. 이 과정을 계속 반복하면 결국 1에 도달하리라는 추측이 바로 콜라츠 추측이다. 얼핏 들으면 정말 간단하고 단순해 보인다. 증명하는 과정도 간단할까? 이 콜라츠 추측을 20년 동안 연구한 수학자가 있는데, 그 수학자는 콜라츠 추측이 악마의 문제라 이야기한다. 정말 우리가 이 쉽고 간단한 추측조차 해결하지 못한다고? 과연 이 모든 것이 역대 수학자들의 실력이 부족해서일까?

 어쩌면, 리만 가설, 콜라츠 추측, 수많은 소수의 규칙성에 관한 가설들은 우리가 살아가는 이 세상의 법칙에 대한 해답이 아닐까? 많은 수학자들이 분명히 이야기했다. 리만 가설이 풀리면 세계가 돌아가는 규칙의 해답을 얻을 수 있을 것이라고. 만약 우주 속 모든 세계를 설계한 미지의 존재가 있다면, 우리는 지금 이 세계의 닿을 수 없는 원리에 도전하고 있는 것은 아닐까? 미지의 존재와 우리가 살아가는 이 우주 세계의 본질적인 모습은 어쩌면 우리가 영원히 노력해도 얻어낼 수 없는 해답일지도 모른다. 페르마의 마지막 정리와 같은 영원히 풀리지 않을 것 같았던 난제들이 하나둘 풀리고 있지만, 소수의 규칙성에 관한 가설은 완벽하게 증명된 가설 하나 찾기 힘들다. 더불어, 나는 콜라츠 추측도 소수의 규칙성과 비슷한 결을 가지고 있을 것이라 생각한다. 누가 봐도 정말 단순하고 쉬운 가설인데, 아직 그 해답에 가까이 다가가지도 못한 우리. 어쩌면 이들은 우리가 추측만 할 수 있을 뿐이지, 영원히 풀리지 않도록 미리 설계된 가설들일지도 모른다.

 수학은 지구를 넘어 우주의 모든 세계를 연결하고 있는 학문이다. 물론 이 글은 내 생각과 추측을 담은 글이지만, 수학에는 불확실한 부분이 분명 존재한다. 그리고 나는 그 핵심에 "소수"가 있다고 생각한다. 우주의 시초와 우주가 이뤄지는 본질적인 해답, 어쩌면 우리가 영원히 풀 수 없는 문제, 그 핵심에 소수가 존재하는 것은 아닐까. 우리가 이 모든 원리와 해답을 추측하고 확신한다 해도, 완벽히 증명하기까지는 영원에 가까운 시간이 걸릴지도 모른다. 영원히 증명해내지 못할 수도 있겠지. 그렇기에 수학은 불확실하다. 나는 수학의 확실한 모습과 불확실한 모습 둘 다 좋아한다. 하지만 불확실성은 때로는 나에게 알 수 없는 위압감과 웅장함을 준다. 수학은 이토록 불확실하고, 묘한 존재이다.