자연수를 계속 세어 가면 어디까지 세어갈 수 있는가? 열심히 세어서 억만을 세어도 다음 수로 억만 더하기 1을 만들 수 있으니 그 끝을 가늠하기 어렵다. 그래서 “자연수의 마지막 수는 무엇인가?”하는 질문에 수학자는 정답을 내지 못하고 단지 끝이 없다는 의미로 8자를 옆으로 눕혀 놓은 것 같은 무한 기호(∞)를 제시한다.
같은 질문을 실수(real number)에 대해서 해서, “실수의 마지막 수는 무엇인가?”라는 질문을 할 수 있다. 이 질문에 대해서도 끝이 없다는 의미로 무한 기호를 제시한다.
서로 다른 두 질문에 천이나 만 같은 딱 부러지는 정답을 내지 못하고, 어정쩡하게 무한이라고 하면서 같은 기호로 답하였다. 그런데 답의 기호가 같다고 하여서 답의 내용이 같은 것은 아니다. 수학자는 두 기호 사이에는 커다란 차이가 있다는 것을 찾아낸다. 어떤 차이가 있는지 알아보기 위해 자연수 전체를 한 통에 담고, 실수 전체를 또 다른 통에 담는다. 그런 다음에 각각의 통에서 수를 하나씩 꺼내어 짝을 짓는 작업을 한다. 이런 작업을 끝없이 하였더니, 자연수 통에 있는 수는 모두 짝을 찾았는데, 실수 통에는 짝을 찾지 못한 수가 엄청나게 많이 남아 있는 것을 발견한다. 같은 모양의 무한기호로 나타내었지만, 무한을 이루는 내용물의 개수가 달랐다. 실수의 개수가 자연수의 개수보다 훨씬 많았다.
수학자는 이런 무한의 차이를 구분하기 위해 자연수의 무한은 알레프0(א₀: aleph 0)이라고 하고 실수의 무한은 알레프1(א₁)이라고 한다.쉽게 말해 자연수는 이산무한(가산무한)이고, 실수는 연속무한(비가산무한)이다. 이러한 차이를 과학 용어를 빌려서 연속무한의 ‘농도’가 이산무한의 ‘농도’보다 진하다고 한다. 그러면 모든 종류의 이산무한의 농도는 같고, 또 모든 연속 무한의 농도도 같다.
그래서 자연수를 한 통에 담고 짝수를 다른 통에 담은 다음에 차례로 짝을 지으면 딱 부러지게 짝을 지을 수 있다. 왜냐하면 두 수는 모두 이산무한이고 농도가 같기 때문이다. 홀수나 정수, 유리수도 모두 이산무한이므로 서로 짝을 지으면 남는 수가 없다. 왜냐하면 모두 농도가 같으니까.
수학에서 실수와 수직선(number line)은 같은 것(동치)이므로 실수는 수직선으로 나타낼 수 있다. 연속무한의 농도가 같은 것은 수직선을 이용하여 확인할 수 있다. 수직선에서 1과 2 사이 구간도 연속무한이고, 1과 20 사이도 연속무한을 구성한다. 그러므로 눈으로 보기엔 길이가 10배 차이가 나지만, 두 구간의 수를 짝지으면 농도가 같아서 딱 맞게 짝지을 수 있다. 그렇기 때문에 함수의 그래프를 그릴 때 구간의 크기가 달라도 연속인 그래프를 그릴 수 있다. 실제 감각과 다른 이런 내용이 무한의 성질이다.
이런 내용을 연구한 수학자로 독일 수학자 칸토르(Georg Cantor)가 있는데, 칸토르는 “알레프0과 알레프1 사이에 다른 농도를 가지는 무한이 있는가?”하는 질문을 하고, 없을 것이라는 가설을 남겼다. 이 가설을 ‘연속체 가설’이라고 한다.
수학은 공리와 정의 위에 세워진 100% 연역 논리체계를 가진 학문이다. 그러므로 모든 명제는 이 연역체계 안에서 참과 거짓을 증명하여야 한다. 그런데 1938년 독일계 미국인 수학자 괴델(Kurt Gödel)은 이 '가설이 참'이라는 것을 증명할 수 없다는 것을 ‘증명’하였다고 한다. 또 미국의 수학자 폴 코언(Paul Cohen)은 1963년, 이 '가설의 부정이 참'이라는 것을 증명할 수 없다고 '증명'하였고, 그 공로를 인정받아 1966년에 수학의 노벨상이라는 필즈상을 받았다고 한다.
괴델과 코언의 증명을 합치면, 연속체 가설은 수학의 연역체계(공리계) 안에서 맞다고 증명할 수도 없고, 그렇다고 틀렸다고 증명할 수도 없는 명제가 된다.
어떤 명제가 있는데, 그 명제가 주어진 연역체계 안에서 증명도 할 수 없고 부정도 할 수 없다면, 그 연역체계 자체가 의심받게 된다. 이렇게 수학의 체계가 완전하지 못하다는 것이 증명되었으므로 이 명제를 괴델의 ‘불완전성 정리’라고 한다. 괴델이 증명한 자연수 체계의 불완전성과 연속체가설의 불완전성이 ‘불완전성 정리’의 사례로 주어진다. 실제로는 가설의 참도 부정도 모두 연역체계 밖에 놓여 있기 때문에 증명되지 않는다. 연역체계 자체에는 문제가 없다.
자연현상을 설명하는 모든 논리지식은 참인 가정명제에서 출발하여 인과의 논리를 연역적으로 적용하여 참인 결론 명제를 유도한다. 증명과정에서 자연현상이나 자연법칙을 수식으로 표현하고, 이후의 증명과정은 수학에 의존한다. 왜냐하면 수학은 공리와 정의 위에 세워진 100% 연역 논리체계를 가진 학문이기 때문에 참임을 직접 증명하는 부담을 더는 것이다. 그러므로 모든 과학명제는 이 연역체계 안에서 참과 거짓을 증명하게 된다.
그런데 수학의 연역체계가 의심을 받는다면 ‘수학에 기반한 연역체계를 가지고 있는 과학은 도대체 맞는 것인가 틀린 것인가?’라는 의문을 가질 수 있다. 나아가 실제 생활에서도 나름대로 연역논리를 전개하여 참말을 주장하는 자신의 주장이 진짜 맞는 것인지 의문을 가질 수 있다.
여기서 자세히 설명하지 못하지만, 과학에서 알려진 명제는 연역체계의 중간에 있는 명제로 항상 참이므로 문제가 없다. 다만 연역체계 자체의 불완전성은 어떤 연역체계이든 가지고 있으므로, 이 오류에 빠지지 않도록 주의하는 것이 필요하다. 우물(체계) 안의 개구리는 우물의 크기나 우물의 상태를 알 수 없다. 우물 밖으로 나와야 알 수 있는데, 개구리는 밖으로 나올 수가 없으므로 불완전한 상태에 있게 된다. 마찬가지로 부처님 손바닥(체계) 위의 손오공은 손바닥 위에서 아무리 움직여도 손바닥 경계에 도달하였는지, 손바닥 밖이 어떻게 되어 있는지 알지 못한다. 코끼리의 다리가 기둥처럼 생겼다는 명제는 맞는 명제이지만, 코끼리가 기둥처럼 생겼다는 명제는 오류이다. 그러므로 자신의 주장이나 지식이 우물의 크기나 상태를 설명하거나, 코끼리의 부분을 가지고 전체를 설명하는 내용인지 아닌지 항상 분별하는 것이 필요하다. 체계 전체나 체계 밖의 이야기는 무의미하다. 자신의 주장이 근거한 연역체계 또는 논리체계의 한계를 벗어나지 말아야 한다.
