유클리드 기하학과 비유클리드 기하학
삼각형 내각의 합은 몇 도일까? 교과과정을 기억하고 있는 사람이라면 180도라고 외칠지 모른다. 혹시 기억하고 있지 않아도 관계없다. 오늘 이야기는 삼각형 내각의 합이 180도가 아닌 세상에 대한 이야기니까.
수학과에 진학 후 내가 가장 큰 충격을 준 강의로 두 가지를 꼽을 수 있다. 첫째는 해석학이다. 아무것도 없는 수의 세계에서 논리적 엄밀함 하나로 끝장을 보는 강의였다. 두 번째는 기하학이다. 정확히는 비유클리드 기하학 강의였다. 비유클리드 기하학은 유클리드가 아닌(非) 기하학이라는 뜻이다. 그러니까 유클리드 기하학이 뭔지 먼저 알고 있어야 한다.
유클리드는 기원전 4~3세기에 활동한 사람으로 '기하학 원론'이라는 책을 집필했다. 이 책은 우리가 생각하는 도형, 그러니까 삼각형, 사각형, 평행선 등을 설명하는 책으로 당시 알려져 있던 수학 지식이 모여있는 책이다. 이 책의 놀라운 점은 '공준' 혹은 '공리'라고 불리는 것에 있다.
공준은 더 이상 증명하지 않고 받아들이는 내용을 말한다. 원론에서 제시한 공준 중 하나는 이런 것이다. "서로 다른 두 점이 있으면 두 점을 잇는 직선을 그을 수 있다." 혹은 "선분이 있다면 더 연장해서 그릴 수 있다."와 같은 것이다. 너무나 당연하기에 이것을 더 풀어서 증명할 수도, 아니라고 할 수도 없는 명명백백한 사실. 그것을 공준이라고 한다.
원론이 대단한 점은 유클리드가 상정한 5가지 공준으로부터 모든 증명들을 완성해 나간다는 점이다. 그러니까 학창 시절 우리를 괴롭힌 수많은 문제들을 저런 식의 간단한 다섯 가지 공준으로부터 쌓아 올려 만들어냈다는 것이다.
여기서 다섯 번째 공준으로 그 이름도 유명한 제5 공준, '평행선 공준'이 등장한다. 일단 소개하자면 "직선 밖의 한 점을 지나며 평행한 직선은 단 하나뿐이다."라는 내용인데 굳이 이해할 필요까진 없다. 다만 여기서 비유클리드 기하학이 출발했다는 점만 기억하면 된다.
이 다섯 번째 공준은 얼핏 보기에 복잡해 보인다. 그러니까 점이 있으면 직선을 긋고 하던 앞선 공준들보다 난해하게 읽힌다. 그래서 많은 수학자들이 평행선 공준을 앞선 네 가지 공준을 사용해 증명해보려고 했다. 수학자들은 당연해 보이는 것도 원리를 파악해 드러내고 싶어 하는 사람들이니 그냥 그러고 싶었나 보다 생각하고 지나가도 된다. 어쨌든 그들이 도전했지만 모두 실패했다. 그러다 어떤 사람이 이렇게 말했다. "평행선 공준이 틀렸다고 하고 이야기를 풀어나가다 보면 잘못 돼서 막히는 구석이 있지 않을까? 그럼 거기서 증명할 방법을 찾을 수 있을 거야.(수학적으론 이걸 '귀류법'이라고 부른다.)"
하지만 웬걸. 평행선 공준이 틀렸다고 해도 기하학은 문제없이 굴러갔다.
결국 수학자들은 제5 공준을 '증명 불가능한' 것으로 받아들였다. 그리고 평행선 공준을 거부한 기하학 세상, 비유클리드 기하학이 탄생했다.
배울 당시엔 그냥 재밌는 수학 역사쯤으로 생각했다. 하지만 이 강의가 내게 충격을 준 이유는 세상을 본격적으로 마주하면서부터였다.
_(2) 편에서 계속