각이 똑같은 사각형

- 18장 독단

by 북다이제스터



갈릴레이는 “자연이라는 책은 수학이라는 언어로 쓰여 있다”고 말했습니다. 당시 과학자들은 자연이 인간 정신과 무관하게 독립된 법칙을 따른다고 믿었습니다. 따라서 신이 합리적으로 설계한 세계를 인간이 이성으로 이해하고 예측할 수 있다고 보았습니다.


이후 많은 과학자는 자연 속에 수학 법칙이 존재한다고 보며, 자연에 객관적인 법칙이 있다고 주장해 왔습니다. 수학은 명확하고 엄밀한 답을 제시하는 학문으로 여겨지지만, 수 자체가 현실을 단순화하고 추상화한 결과입니다. 과학이 수학의 언어로 표현된다고 해서, 그것이 자연을 있는 그대로 기술한 것이 아니라 특정 조건을 추려내 만든 근사치일 뿐입니다. 기하학을 떠올려보면 알 수 있습니다. 우리는 직선이나 원, 사각형을 생각하지만, 현실 세계에는 완벽하게 곧은 직선도, 정확히 둥근 원도, 네 각이 완전히 같은 사각형도 없습니다.


과학 법칙이 수학의 형태를 띠는 이유는 자연이 처음부터 계산 가능한 구조로 되어 있기 때문이 아닙니다. 복잡한 세계에서 수학적으로 다룰 수 있는 변수들만 선별했기 때문입니다. 결국 과학은 자연 속에 숨겨진 법칙을 그대로 ‘발견’한다기보다, 특정한 관점과 조건들을 전재해 법칙을 ‘구성’하는 작업에 가깝습니다.


라캉의 지적처럼, 과학은 자연을 다루기 위해 세계를 추상화하고 많은 요소를 배제할 수밖에 없습니다. 그렇기에 과학이 절대적이고 보편적인 진리를 담고 있다는 믿음은 오히려 신화에 가까울지도 모릅니다.



르네 마그리트 <유클리드의 산책>(1955)



마그리트는 원뿔 모양의 탑 옆에 그와 똑같은 형태의 길을 나란히 그렸습니다. 이 길은 실제로 평행하지만, 원근법 때문에 멀리서 서로 만나는 것처럼 보입니다.


수학자 유클리드는 ‘평행선은 서로 만나지 않는다’는 명제를 증명할 필요조차 없는 공리로 삼았습니다. 하지만 마그리트의 그림은 이 공리가 항상 성립하지 않음을 암시합니다. 실제로 평행선은 완전한 평면에서는 만나지 않지만, 굴곡진 현실 공간에서는 결국 교차할 수밖에 없습니다.



수학은 정교한 공리 체계 위에 세워진 학문입니다. 공리란 더 이상 증명하거나 반증할 수 없는 명제로, 학문이나 인식 체계의 출발점이 됩니다. 공리 체계는 형식 논리로, 유효한 공리에서 타당한 결론을 도출해 오류를 줄이려는 시도입니다. 가령 기하학에서 ‘점은 크기가 없지만, 위치가 있다’는 공리를 참으로 가정하고 논리를 전개합니다.


수학에서 하나의 증명은 앞선 증명에 의존하고, 그 결과는 다시 다음 결론의 기초가 됩니다. 하지만 모든 걸 증명할 수는 없습니다. 어디서에선가 멈춰야 하며, 그 지점이 바로 ‘주어진 것’, 곧 공리입니다. 공리는 우리가 자연스럽게 참이라고 여기는 직관에서 비롯되며, 직관은 근거를 요구하지 않습니다. 바로 우리 직관이 공리입니다. 수학자 푸앵카레가 말했듯, 공리는 ‘진리이기 때문에’ 선택된 것이 아니라, 단순하고 유용하기에 선택된 것입니다.


공리는 일상에서도 적용됩니다. 우리는 누구나 자신의 믿음 중 일부를 확실하다고 여기고, 그 위에 세계관을 세웁니다. 즉, 공리가 삶의 주춧돌이 되는 셈입니다. 예컨대 1910년 미국 장로교 총회가 제정한 ‘5대 기본교리’는 신앙 체계의 공리와 같은 역할을 합니다. 그리스도의 기적과 처녀 잉태, 인류의 죄를 대신한 십자가 죽음, 하나님의 영감을 받아 기록된 성서의 권위 등이 그것입니다. 이 공리를 받아들이지 않는 사람은 성서의 수많은 기적이나 교리를 믿기 어렵습니다. 반대로 기독교 신자에게는 성서의 모든 내용이 이 공리에서 논리적으로 도출된 결론, 곧 정리(定理)처럼 받아들여집니다.


사실 인간은 공리나 전제 없이 사고할 수 없습니다. 언어로 생각하는 한, 우리의 사고는 자연스레 연역적인 구조를 따르게 됩니다. 연역인 삼단논법은 상식적인 추론처럼 보이지만, 그 안에는 논리적인 비약이 숨어 있습니다. 예컨대 ‘모든 사람은 죽는다’는 대전제는 경험에서 나온 것처럼 보이지만, 실제로 모든 인간의 죽음을 확인한 이는 없습니다. 그럼에도 이 전제를 바탕으로 ‘소크라테스는 죽는다’는 결론을 도출합니다. 결론은 경험적인 사실과는 관계없이 오직 형식 논리로 얻어진 것이며, 엄밀히 말하면 비약입니다.


삼단논법 문제의 핵심은 ‘모든’이라는 표현에 있습니다. ‘모든 사람은 죽는다’는 명제는 사실의 진술이라기보다, 그럴 것이라는 가설이자 우리가 받아들이는 믿음에 가깝습니다. 결국 우리가 확실하다고 여기는 지식도 따지고 보면 검증되지 않은 전제와 독단 위에 세워져 있을 수 있습니다.


데이비드 흄은 공리에서 추론된 결론을 신뢰하지 않았습니다. 그의 관점에서 공리는 결국 감각 경험에서 나온 직관에 불과하며, 경험 자체가 세계에 대한 잠정적인 추정일 뿐입니다. 모든 논리적인 추론은 전제가 타당할 때만 성립합니다. 하지만 어떤 전제도 경험을 토대로 하는 이상, 절대적으로 확실하다고 보장할 수 없습니다. 따라서 아무리 완벽한 연역이라도, 그 기초가 되는 전제가 불안전한 이상, 그 결론 역시 확실한 진리라고 말할 수 없습니다.


흄은 또한 정리(定理)가 공리의 필연적인 결과처럼 보일 뿐, 실제로는 공리에 담긴 내용을 반복해 다시 말하는 것에 지나지 않는다고 보았습니다. 연역으로 얻은 모든 결론은 이미 전제 안에 포함된 의미를 되풀이할 뿐이며, 정리는 공리의 동어반복에 지나지 않습니다. 그렇다면 공리도, 그로부터 도출된 정리도 모두 진리를 보증하지 못합니다.


이러한 관점에서 흄은 인간이 참된 진리에 도달할 수 없다고 보았습니다. 그의 회의는 과학이나 수학에 국한되지 않고, 인간 이성 자체에 대한 근본적인 의문이었습니다. 이러한 급진적인 주장에 당시 많은 사상가는 반발했으며, 특히 칸트는 흄의 주장을 "가련한 술수"라 비난했습니다. 칸트는『순수 이성 비판』(1781)에서 수학의 공리와 명제가 보편적이고 필연적인 진리를 담고 있다고 단언했습니다. 하지만 수학자 가우스(177~1851)는 오히려 흄의 문제의식을 지지하는 듯한 견해를 밝혔습니다.


“모든 수학적인 구성물은 인간이 만든 것에 불과하다는 사실을 잊지 말아야 한다. 제시된 정의가 충분한 의미를 갖지 못한다면, 그것이 무엇인지 따지는 대신 그 정의가 합당한 의미를 갖기 위해 무엇을 더 가정해야 하는지 물어야 한다.”


이미 고대 철학자 아르케실라오스(BC 315?~240?) 역시 공리로는 아무것도 증명할 수 없다고 선언했습니다. 어떤 전제를 정당화하려면 또 다른 전제가 필요하고, 그 전제 또한 근거를 요구합니다. 이렇게 근거의 사슬은 끝없이 이어질 뿐, 결코 궁극적인 토대에 도달하지 못합니다. 비트겐슈타인은 이를 두고 “근거가 탄탄한 믿음 근저에는 근거 없는 믿음이 있다”고 표현했습니다. 이는 근거가 틀렸다는 뜻이 아니라, 애초에 근거라는 것이 없다는 의미입니다. 결국 우리는 믿음에 설득력 있는 근거를 제시할 수 없으며, 궁극적이고 절대적인 진리에 도달할 수 있다는 주장 역시 쉽게 단언할 수 없습니다.


수학자 쿠르트 괴델(1906~78)은 이러한 문제를 수학으로 증명했습니다. 수학을 포함한 모든 공리 체계가 모순이 있는지 여부는 그 공리체계 안에서는 결코 증명할 수 없다는 사실을 보여주었습니다. 이것이 괴델의 ‘불완전성 정리’입니다. 마치 우리가 우주 안의 모든 걸 증명하더라도, 우주 자체가 증명되었는지는 알 수 없는 것과 같습니다. 우주 안에서는 증명할 수 없고, 벗어난 후에야 알 수 있습니다. 괴델의 증명 이후, 수학이 우주와 만물을 완전하게 설명하는 언어라는 믿음은 흔들리기 시작했습니다.


여기에 더해, 수학자 레오폴트 뢰벤하임(1878~1957)과 토랄프 스콜렘(1887~1963)은 아무리 엄밀하게 설계된 공리 체계라도, 예상치 못한 결과가 나올 수 있음을 밝혔습니다. 이는 마치 한국인을 정의하는 모든 속성을 빠짐없이 나열해도, 그 조건을 모두 만족하지만 실제 한국인과는 전혀 다른 속성을 가진 뜻밖의 존재가 나타나는 것과 같습니다. 괴델의 정리는 불완전한 공리를 보완하면 진리에 다가갈 가능성을 열어놓았지만, 뢰벤하임-스콜렘 정리는 공리 체계가 아무리 완전해도 뜻밖의 결과를 피할 수 없다는 사실을 보여준 셈입니다.


사람들은 오랫동안 수학을 가장 확실한 학문으로 여겨 왔습니다. 하지만 푸앵카레는 “해결된 문제란 없고, 단지 어느 정도 해결된 문제만 있을 뿐”이라고 말했습니다. 수학은 결함 많은 인간이 만든 체계인 만큼 온갖 오류와 불확실성에서 자유로울 수 없습니다. 따라서 절대 흔들리지 않는 토대를 찾으려는 시도는 결국 실패로 돌아갈 수밖에 없습니다.


수학은 절대적인 진리가 아닙니다. 수학조차 진리인지 확신할 수 없는 회의주의입니다. 한때 수학은 모든 학문 분야에서 진리를 발견할 수 있다는 믿음을 떠받치던 가장 튼튼한 지지대였습니다. 하지만 수학이 완전한 기초를 제공하지 못한다는 사실이 드러나며, 그 믿음은 산산이 깨졌습니다. 정치학이나 경영학, 사회학, 경제학 같은 다른 분야는 여전히 수학을 바탕으로 진리를 찾으려 하지만, 그 기대를 받쳐주던 기반이 이미 무너진 셈입니다. 물론 수학은 여전히 가장 정교한 사유의 도구입니다. 하지만 수학이 진리의 보증서라는 믿음은, 이제 더 신중하게 다루어져야 합니다.


철학자 에드먼드 게티어(1927~2021)는 논문 <정당화된 참인 믿음은 지식인가?: Is justified true belief knowledge?>(1963)에서, 수천 년간 유지되어 온 지식 개념에 근본적인 문제를 제기했습니다. 그는 어떤 믿음이 정당화되었고 참이라 하더라도, 그것이 곧 지식이 되는 건 아니라고 주장했습니다.


플라톤 이후 지식은 전통적으로 세 가지 조건을 충족해야 한다고 여겨졌습니다. 첫째, 어떤 사실을 알기 위해선 그것을 참(true)이라고 믿어야 합니다. 가령 대한민국의 수도를 대전이라고 믿는다면, 실제 수도가 서울인 이상 알았다고 할 수 없습니다. 둘째, 그 믿음(belief)은 실제로 참이어야만 합니다. 내가 ‘우연히’ 서울을 대한민국의 수도라고 믿고 그 믿음이 맞았다 하더라도, 이는 단지 운 좋게 맞춘 추측일 뿐 지식이 아닙니다. 마지막으로 지식의 세 번째 조건은 참인 믿음이 정당화(justified)되어야 합니다. 어떤 사실을 안다고 주장하려면 충분한 근거가 있어야 합니다. 이 세 조건을 합쳐 흔히 ‘정당화된 참인 믿음’(Justified True Belief)이라고 부릅니다.


하지만 게티어는 이 세 조건을 모두 충족해도 여전히 지식이 아닐 수 있는 사례를 제시했습니다. 어떤 사람이 충분히 합리적인 근거를 가지고 참인 믿음을 갖게되었더라도, 그 믿음이 우연에 의해 참이 된 경우라면 우리는 그것을 지식이라고 부르기 어렵습니다. 즉, ‘운’이 개입하면 정당화된 참인 믿음조차 지식이 아닐 수 있습니다. 이를 해결하고자 일부 철학자는 지식의 조건에 ‘운과 관련 없음’만 추가하면 된다고 주장했습니다. 하지만 정작 운이 무엇인지 정의하는 것 자체가 지식 개념만큼이나 어렵기에, 이 해결책은 간단치 않습니다.


지식의 세 번째 조건인 ‘정당화’ 역시 안정적이지 않습니다. 우리가 충분하다고 여기는 근거는 언제든 반증에 의해 무너질 수 있습니다. 이른바 ‘블랙 스완’(한 번도 관찰되지 않던 사건이 실제로 발생하는 경우)은 우리의 일반화를 언제든 뒤흔듭니다. 과거의 경험이 아무리 많더라도, 미래를 논리적으로 보장하지는 못합니다.


결국 우리가 ‘안다’고 확신하는 많은 것들은 잠정적입니다. 정당화된 참인 믿음조차 우연과 반증의 가능성에서 완전히 자유로울 수 없다면, 지식은 확고한 토대라기보다 조건부로 유지되는 상태에 가깝습니다.


원주율(π)이나 자연상수(e)는 일상에서 접할 수 있는 몇 안 되는 초월수입니다. 초월수란 무리수이면서 동시에 어떤 다항방정식의 해도 될 수 없는 수를 말합니다. 즉, 분수로 표현할 수 없고, 소수 표현이 끝없이 이어지고 일정한 패턴도 반복하지 않으며, 수학적으로도 특별한 의미를 지닙니다. 예컨대 √2는 무리수지이만, 다항방정식 x²-2=0의 해이므로 초월수는 아닙니다.


많은 사람은 초월수를 극히 드물 것이라 생각합니다. 파이나 자연상수처럼 특별한 이름을 가진 수만 떠올리기 때문입니다. 하지만 실제로는 정반대입니다. 수학자 칸토어는 거의 모든 수가 원주율 같은 초월수임을 증명했습니다. 대수적인 수는 셀 수 있는(가산적인) 집합이지만, 실수는 셀 수 없을 만큼(비가산적으로) 많기 때문입니다. 그 결과 우리가 특별하다고 여기는 초월수가 오히려 실수 세계의 ‘대다수’이며, 분수나 √2같은 대수적인 수는 극히 일부에 불과합니다.


흥미로운 점은 여기에 있습니다. 초월수가 대다수이지만, 우리는 그중 극히 일부에만 이름을 붙이고 이해합니다. 초월수는 우리에게 조용히 말합니다. 우리가 이해한 세계보다, 아직 이해하지 못한 세계가 훨씬 더 넓다고.


윌리엄 블레이크 <태초부터 계신 이>(1794)



그림 속 인물은 ‘태초부터 계신 이’, 즉 신이나 신성한 존재를 상징하며, 정교한 캠퍼스로 천지를 창조하는 장면을 보여줍니다. 블레이크는 이성을 세계 창조자로 보았지만, 그 이성이 창조한 세계를 악으로 간주하며 이성 자체가 사악한 혼을 지닌다고 생각했습니다.


그는 이성과 합리성이 개인의 상상력과 영적 성장을 억압하는 힘이라고 보았습니다. 나아가, 이를 바탕으로 한 산업 혁명 같은 지배적인 시스템을 비인간적이고 억압적이라고 비판했습니다.

이전 19화이론 의존적인 행위