무한에 관하여(1부)

part3. 수학이란 무엇인가?(1)

 의심이라는 관념은 인식에서 기원했다. 인식은 대상의 실체를 어떻게 분석하는가에 기원한다. 그리고 우리는 감각의 한계를 경험하고, 추상화를 통해 인식 주체인 우리의 의식의 기저인 이성을 밝혀내려 노력했다. 감각의 한계를 넘어 대상의 실체를 분석하기 위해. 이성을 통해 논리적이고 올바르게 세상을 이해하고 대상을 이해하기 위해서다. 수학과 과학을 동원해 보이지 않는 존재들에 대해 고찰하며 이를 이해하고 지식은 발전했다.

 여전히 풀리지 않는 의문은 이 이성이었다. 항상 옳다고 여기는 어떠한 것, 그리고 무엇을 판단하는, 출처를 알 수 없는 우리 의식의 판단 근거. 칸트의 코페르니쿠스적 전환이 현대의 물리학과 감각의 한계를 잘 예측했다. 그러나 물리학의 시간, 공간, 수학의 명제, 논리 등, 선험적인 명제들 즉, 이성은 대체 어디서 왔는지는 밝히지 못했다. 정확히는 밝힐 수 없다고 했다. 근대시대는 여전히 신이라는 존재가 건재했으며, 이 이성에 도덕, 윤리, 진리 등이 포함되어 있다고 보고, 이를 기반으로 윤리학을 기술했다. 인간이 할 수 있는 일은 이성 너머를 보는 것이 아닌 이성을 명확히 밝혀내는 것이라고 말이다.

 그러나 현대를 살아가는 나는 신을 믿지 않는다. 이 이성은 정말 무엇일까? 그리고 왜 이성으로 이성 너머에 대해서는 밝힐 수 없는 것일까?

 질문이 막혔을 때는 언제나 많은 정보를 모으는 것이 유리하다. 그럼 이성에 속해있는 주제에 관해 공부해보면 알 수 있지 않을까?　논리성, 항상 옳은 것을 떠올리면 수학은 빠지지 않고 나오는 주제다. 근대의 철학자 역시, 수학에 대해서는 그렇게 언급했다. 이성에 속하는 고대 논리와 연산, 기하학. 이 주제에 관해 공부해보면 이성이 무엇인지 어렴풋이 알 수 있지 않을까?

1. 수학의 출발.

 수학의 출발은 어디서 왔을까? 숫자와 덧셈은 어디서 왔을까?

 고대에는 셈을 하는 방법이 현대와는 조금 달랐다. 보통 가축의 수를 세기 위해서 나무에다 선을 하나씩 그어 가축 한 마리에 선 하나를 가축 하나에 대응하는 식으로 셈을 했다고 한다.

 자 그럼 덧셈은 어떤 의미였을까? A라는 사람의 가축 수가 1마리, B라는 사람의 가축 수는 2마리, C라는 사람은 3마리였다고 하자. 덧셈은 A가 B에게 가축을 받았을 때를 나타내는 것으로 출발했을 것이다. A의 가축이 3마리가 되었다. 즉, C와 같아졌다. 즉, A와 B의 가축의 합이 C와 같다는 것이다.

 당시에는 아라비아 숫자가 없었으니 대충 이런 형식이었을 것이다.

 A+B=C

 물론 +라는 기호도 =이라는 기호도 없었을 테니 다른 형태이기는 했지만, 중요한 것은 기호가 아니니 넘어가자. 중요한 건, A와 B를 합했더니, 전혀 다른, 그러나 우리가 이미 알고 있는 C와 같았다는 사실이다. 우리는 1+1=2가 너무나 자명해서 마치 이것을 수학적 진리의 출발이라고 생각한다. 그러나 이는 자명한 것이 아니다. 1과 2는 엄연히 다르며, 2는 1의 다음 수일뿐이다. 1과 2는 현실 대상에 대응되는 관계가 다른 것이다. 1은 선 1개, 2는 선 2개인 것이다. 그런데 1과 1을 합하였더니, 2와 같다는 것을 발견한 것이다.

 이 논리의 기저에는 대응하여 같으면 같다는 논리와 자연수는 항상 다음 자연수가 존재한다는 진리가 포함되어 있다. 그리고 합한다는 어떤 행동도 포함되어 있다. 이 3가지가 합쳐져 1+1=2라는 논리식이 완성된 것이다. 

 물론 엄밀한 정의는 페아노 공리계에서 증명 가능하며, 이는 위에서 언급한 과정보다 조금 더 복잡하고 자명하다. 특히 덧셈의 정의를 단순히 합한다는 관념이 아닌 어떤 함수로서 정의하여 보다 명확하게 증명한다. 

 

2. 수학과 이성.

 자 이제 수학의 기저에는 우리의 사고체계에서 항상 옳다고 여기는 것이 있다는 것을 알게 되었다. 대표적으로 자연수는 항상 다음 자연수를 가진다는 사실이다. 이를 이성에 포함되는 명제라고 봐도 될 것이다. 우리는 대체 왜 이것이 옳다는 것을 알고 있을까? 경험을 통해서 아는 것일까? 아니면 경험과 무관하게 선험 하는 것일까?

 이 이성에 대해서 의심하는 것, 자신의 의식, 사고체계에 대해 의심하는 것. 이는 의심이라는 주제에 대해 고찰했을 때 내가 의문으로 남겨두었던 것과 유사했다.

 이성을 끊임없이 의심한다는 것은 앞서 내가 언급했던 모든 것을 의심하는 회의주의와 유사한 모순에 빠진다. 참이라고 판단되는 이성을 의심하면, 의심한다는 사실까지 다시 의심해야 하기 때문이다. 방금 떠올렸던 ‘이성을 의심한다’라는 사고 역시, 이성에 의해 이루어진 과정이기 때문이다. 인간이 어떤 대상에 이상함을 느끼는 것과 그 대상을 의심하는 것은 그런 일련의 과정이 합리적이라고 생각하기 때문이다. 쉽게 말해, 이는 다시 무의식 중에 우리의 이성이 판단한 것이다. 이 이성을 통해 이성을 의심한 셈임으로 다시 의심을 의심해야 하는 상황이 발생하게 된다. 실제 데카르트는 이런 회의를 계속 진행했고, “나는 생각한다. 고로 존재한다.”라는 진리에 도달했다고 언급한다. 의심을 하더라도 이 의심은 다시 생각에 포함되기 때문이다.

 말이 반복적이고 메타적이라 조금 어렵다고 느낄 것이다. 

3. 힐베르트 프로그램.

 칸트가 이성에 접근하는 방법은 우리가 대상을 어떻게 이해하는지를 통해 간접적으로 다가갈 수 있다고 했다. 실제 고전 논리나, 수학, 기하학을 보면 타당하다고 볼 수 있다. 그런데 여기서 중요한 건, 바로 이 ‘언어’라는 것이다. 우리는 사고를 할 때 언어를 통해 사고한다. 우리는 언어라는 매개체 없이 세상을 어떻게 인식하는지 상상할 수 있을까? 이 질문에 쉽게 답하기가 어렵다. 이미 이 질문에 대한 대답을 언어로 답하고 있기 때문이다.

 만약 우리의 언어가 두서없이 쓰여있다면 그 언어를 통해 논리나 이성에 다가가는 것이 가능할까? 마치 선글라스를 끼고 세상을 보며, 세상이 전부 까맣다고 얘기하는 것과 같을 것이다. 이러한 이유로 아리스토텔레스가 고전 논리를 만들었고, 고대 철학자들이 수학을 만들었다.

 그러나 위에서 언급했던 모순적인 명제들이 쏟아져 나오며, 언어를 다시 정리할 필요가 있다고 여겼다. 위에서 언급한 모순이 발생하는 이유가, 주어와 술어 부분에 들어가는 각 단어들의 의미가 불분명하기 때문이라고 지적했다. 어떤 단어는 다른 단어와 반대 의미이거나 포함되는 의미인데, 이를 명제처럼 기술하다 보면 모순에 빠져 버리는 것이다. 또한, 논리를 전개하는 과정에서도 단어의 정의가 불분명해 체계적인 진행이 잘 이루어지지 않았다. (예시)

 이로 인해, 일상 언어보다는 수학을 통해 논리에 접근하는 것이 유리했다. 언어를 다시 정립하는 것에는 복잡하기도 하고, 일상 언어와의 혼란도 야기할 수 있기 때문이다. 수학은 숫자나 문자를 통해 명제를 이루는 단어들 자체의 불분명함을 배제했다. 수학에서 이루는 숫자나, 기호, 정의들은 매우 기초적이고 기본적인 것들로 차근차근 쌓아 올려놓았기 때문에 서로 간의 관계에 충돌되는 부분이 없었다. 19세기 이전까지 수학은 모순 없이 잘 기술되고 있었다. 이 엄밀함을 토대로 다른 학문의 엄밀함을 검증하기도 하였다.

 문제는 19세기에서 20세기에 터져 나왔다. 19세기 이후에 수학의 논리체계를 다듬는 과정에서 여러 모순이 발견된 것이다. 대표적으로 러셀의 역설이다. 수학이 다른 언어에 비해 훨씬 수학이 다른 언어에 비해 훨씬 체계적으로 쓰였기 때문에 모순이 많이 발생하지 않았다. 그리고 우리의 사고 과정, 이성에 다가가기 더욱 수월했다. 그러나 여전히 수학의 여러 정의는 언어로 기술된 부분이 많았다. 이 문제를 바로잡고자 다비트 힐베르트는 완전한 체계, 무 모순적 체계를 만들기를 원했다. 집합, 함수, 수의 체계 관계를 분명히 밝히고, 그 관계에서 가장 토대가 되는 공리를 바탕으로 수학을 완전화하려고 시도했다. 이성은 경험에 무관한 선험적인 것이라는 칸트의 말처럼, 이성, 의식의 기저, 항상 옳다고 여기는 명제, 판단의 기준이 되는 명제인 공리들을 선언하고, 이 공리 안에서 정리를 쌓아 올렸다. 

 그리고 대상들의 본질을 파악하기 위해 대상들을 추상화했던 것처럼, 가장 추상적이고, 기초적인 의식의 대상들을 다루는 집합론이 수학의 가장 기초가 되었다. 이 집합론을 바탕으로 수학적 대상들(자연수, 실수 등)을 다룰 수 있다는 것을 알게 되었고, 심지어 실제 세계를 아득히 초월한 여러 수학 이론들이 폭발적으로 팽창할 수 있는 계기가 된다. 앞서 언급했던 것처럼, 0차원을 정의하여 차원을 확장할 수 있게 되고, 4,5차원을 넘는 방법들이 수학적으로 가능한 것도 이 이성, 논리의 추상화를 통해 탄생한 집합론 덕분이다.

 이는 칸트가 고찰했던 순수 이성 비판과 매우 유사하다. 칸트가 이성은 선험적 명제이며 종합적 판단으로 지식을 확장해 간다고 언급했다. 이 선험적인 명제가 바로 수학의 공리와 유사하다. 마땅히 증명할 방법은 없지만, 우리가 참이라고 알고 있는 명제. 직관적으로 알고 있는 명제 말이다.