철학자가 수학을 이야기한다면 어떻게?
이진경, 『수학의 모험』
by
Jun 5. 2022
이진경이 수학에 대해 쓴 책이 있다는 걸 알고, 그것 자체가 흥미로웠다. 이진경. 이른바 당시 대학가에서 “사사방”으로 불렸던 『사회구성체론과 사회과학방법론』의 저자 아닌가? 물론 나는 책에서 그가 규정한 한국 사회의 성격에 대해서 동의하는 쪽은 아니었고, 책의 수준에 대해서도 논란이 있다는 것도 알고 있었다. 하지만 대학원생이 그런 책을 쓰고 논쟁의 중심이 서 있다는 걸 놀라워했던 것 같다. 사실 그럴 수 있는 시대이기도 했지만. 후에 베스트셀러가 된 『철학과 굴뚝 청소부』를 읽기도 했다. 『철학과 굴뚝 청소부』는 근대 이후 철학의 흐름에 대해 기본적인 지식과 인식의 토대가 된 책이었다. 그는 사회학자이고, 철학자다. 그런 그가 수학책을 썼다니...
가장 궁금했던 건 철학자 이진경이 수학을 어떤 식으로 썼을까 하는 것이었다. 철학자가 쓴 수학책은 여타의 수학 교양서와는 어떤 면이 다를까 기대가 되기도 했다. 그가 만난 수학은 어떤 것이었을까?
그는 우선 수학을 ‘진리 게임’이라고 보고 있다. 어떤 식(式)이, 나아가 우리가 하는 말이 참인지 거짓인지를 알아내는 방법이라는 것이다. 이는 기호논리학의 얘기이긴 하지만 전체적으로 그가 ‘수학’을 바라보는 관점이다. 그럴 수 밖에 없지 않나 싶기도 하다. 기호논리학이야말로 철학에 가장 가까운 수학 아닌가? 러셀이, 화이트헤드가 거기서 출발하여 철학자가 되지 않았나? 이진경은 바로 이런 ‘진리 게임’이라는 기호논리학에서 출발하여 ‘수학의 본질은 자유’라는 결론에 이른다. 칸토어의 집합론과 괴델의 ‘불완전성 정리’에 이르게 되는 셈이다. 그러니까 이진경의 『수학의 모험』은 근대 이후 수학이 걸어온 길을 되밟되, 그것이 단순한 진리 게임을 넘어서서 수학이 가졌던 꿈과 그 꿈이 흔들리는 과정, 그리고 그 꿈을 다시 일으켜 세우는 과정을 짚고 있다.
근대 과학 혁명 시기의 수학의 꿈은 ‘자연을 수학화’하는 것이었다고 할 수 있다. 과학 혁명의 대표적인 인물로 꼽는 갈릴레오와 뉴턴이 바로 그 꿈을 현실화시키기 시작한 인물들이다. 그렇게 과학의 힘은 수학의 꿈에서 비롯되었다. 그리고 그 꿈은 기하학을 대수화하기 시작했고(여기엔 데카르트라는 철학자가 지대한 공을 세운다. 그는 과학자, 수학자이기도 했다), 미적분학을 탄생시켰다. 미적분학이 현대 문명을 탄생시켰다는 말은 절대 과장이 아니다. 우리의 문명 모든 것에 뉴턴 혹은 라이프니츠가 발견한(발명한?) 미적분학의 계산이 들어 있다고 해도 과언이 아니다.
미적분학의 성공은 누구도 의심하지 않았다. 150년 동안 그 기술 혹은 수법, 내지는 이론의 토대를 이루는 무한소의 개념에 의문을 제기한 것은 버클리라고 하는 인물 한 사람뿐이었다. 심지어 그의 문제 제기는 거의 무시되었다. 그러다 차츰 그 토대에 대한 의심이 생기기 시작했다. 우선은 유클리드기하학이 위협을 받았고, 해석학이 도전을 받았다. 모든 학문의 기초라고 하는 수학이, 엄밀성을 최우선 가치로 하는 수학이 허점을 보인다는 것은 도무지 있을 수 없는 일이었지만, 아무튼 (적어도 수학자들의) 현실은 그러했고, 수학의 ‘위기’라 했다.
그것을 해결하기 위해서 여러 대안들이 나왔다. 비유클리드기하학이 등장했고, 칸토어의 집합론이 나왔다. 그러나 칸토어의 역설이 바로 등장했고, 수학의 기초를 다시 세우자는 (거의 운동 차원의) 움직임이 힐베르트를 중심으로 나오기도 했다. 하지만 괴델의 정리는 수학의 엄밀성에 대한 믿음을 완전히 허물어뜨려버렸다.
이렇게 요약하지만, 철학자가 이 내용들을 전달하는 방식은 현란하다. 어떤 내용은 가상의 인물을 등장시켜 연극과 같이 만들어내기도 하고, 어떤 내용은 소설과 같은 기법을 쓰기도 한다. 물론 정통적인 방식, 즉 서술의 방식으로 당시의 수학 흐름을 보여주기도 한다. 그런데 그런 방식도 여러 흐름의 관계를 보여주고, 그 관계가 어떤 관련성을 맺고 있는지, 어떤 문제 의식을 가지고, 어떻게 문제를 해결하려고 했는지를 보여주기 위해 애쓴다. 수학자가 쓴 책이라면 잘 등장하지 않는 방식이다. 어쩔 수 없이 철학자, 사회학자의 방식이다.
사실 그래서 흥미로웠다. 수학의 외부에서 수학의 안쪽을 들여다보고 있는 것이다. 그래서 계산하는 수학이 아니라 수학이 무엇을 위해 존재하는지, 수학이 무엇을 해결하고 싶어하는지를 좀 다른 관점에서 볼 수가 있다. 그래서 ‘수학의 본질은 자유’라는 결론에까지 이르게 된다.
