구조주의와 수학자, 니콜라 부르바키

아미르 D. 악젤, 《수학 미스터리, 니콜라 부르바키》

이 책은 수학에 관한 책이 아니라, 수학사, 아니 20세기 가장 중요한 철학적 흐름에 관한 이야기다.

니콜라 부르바키? 이런 수학자가 있었나? 아무리 20세기 수학자의 이름에 익숙치 않다지만, 그래도 니콜라 부르바키, 그것도 20세기 여러 분야에 영향을 미친 수학을 만든 수학자가 전혀 들어보지 못한 이름이라... 고개를 갸웃거렸다. 폴데비아 과학아카데미 소속의 수학자, 니콜라 부르바키.

금새 사정을 알게 되었다. 니콜라 부르바키는 수학자 한 사람의 이름이 아니라, 여러 프랑스 수학자들의 공동 집단의 이름이다. 물론 폴데비아 역시 현실에 존재하지 않는 국가다. 1920, 1930년대 프랑스의 소장 수학자들은 수학이 좀 더 엄밀한 증명의 토대에 서 있어야 한다는 공감대 아래 논의의 공간을 만들었다. 처음에 그들은 수학 교육을 위한 교과서를 집필하기 위한 공동의 목적을 가졌고, 난상 토론을 거치면서 그 목적의 일부를 달성했다. 그리고 그들의 수학에서의 방법론은 수학에서만 그치지 않고, 언어학, 인류학, 경제학, 철학 등 다방면에 영향을 미쳤다. 그 영향의 결과물을 우리는 ‘구조주의’라고 부른다.

사실 책의 첫 머리에 등장하는 알렉상드르 그로텐디크에 관한 이야기는 들어본 적 있다. 김민형의 《다시, 수학이 필요한 순간》에서 그림을 그리지 않는 기하학이 그로텐디크에서 비롯되었다는 것을 읽은 적이 있고, 벵하민 라바투트의 소설 같지 않은 소설 《우리가 세상을 이해하길 멈출 때》의 <심장의 심장>에서는 그의 삶을 조망하고 있었다. 그런데 그가 부르바키의 중심인 인물이었고(첫 멤버는 아니었다), 그가 정치 쪽으로 돌아서고, 실패한 후, 그리고나서는 피레네 산맥으로 들어가버린 이후로 부르바키가 쇠퇴해졌다는 것은 처음 알게 된 사실이다.

앞에서 부르바키가 허구의 인물이라고 했지만, 사실 부르바키는 실존했던 인물이다. 그러나 수학과는 상관없다. 샤를 드니 소테르 부르바키라는 프랑스 장군이 있었다. 존경받는 장군이었고, 많은 승리도 거뒀지만, 보불 전쟁 때에는 프로이센군에게 결정적인 패배를 당한 장군이기도 했다. 그런데 그의 성은 프랑스의 고등사범학교 수학과의 신입생에 대한 장난에 사용되면서 살아났다.

니콜라 부르바키는 수학에 엄밀한 증명을 도입하려 했고, 그것을 위해서 ‘구조’라는 개념과 ‘공리화’라는 개념을 선택했다. 수학에 가장 처음 구조라는 개념을 도입한 부르바키는 이로써 “20세기 수학에서 가장 아름다운 보석 가운데 하나”가 되었다. 그리고 그들이 성공적으로 도입한 구조의 개념과 방법론은 금세 모든 지식 분야를 장악했다. 수학적인 개념에서 출발한 구조주의는(실제로는 소쉬르의 언어학에서 시작되긴 했지만) 다른 과학 분야뿐만 아니라, 인문학, 경제학, 철학에까지 영향력을 넓혔다.

가장 성공적인 분야는 바로 레비-스트로스의 인류학에 접목된 구조주의였다. 데이터만 잔뜩 모아놓은 레비-스트로스와 수학자 앙드레 시몬의 구조주의 분석력이 만나 완전히 새로운 인류학, 새로운 인문사회학이 등장할 수 있었던 것이다. 사실 레비-스트로스의 작업이 대단하다는 것을 알고 있었지만, 그것이 수학자의 도움을 받았다는 것은 정말 처음 알게 된 사실이다.

물론 니콜라 부르바키는 퇴조했고, 구조주의 역시 역사의 대세에서 밀려났다. 부르바키의 수학은 자신의 할 일을 다 했기 때문에, 즉 수학에서 엄밀한 증명이 모두가 인지하는 바가 되었기 때문에 더 이상 주장할 게 없어졌다. 그리고 철학 등에서의 구조주의는 세상이 그렇게 요소들의 합리적인 연결만으로 구성되어 있지 않다는 인식이 확산됨에 따라서 포스터모너니즘의 시대로 접어들면서 전성기의 운명을 접어야 했다.

니콜라 부르바키와 같은 여러 수학자, 혹은 과학자, 작가들이 공동 작업을 통해 공동 생산을 하는 기획은 이후로도 여러 차례 시도된 것으로 안다. 그러나 거의 실패한 것으로 평가되고 있다. 부르바키만큼 역사 속에 기록되는 것은 없으니 말이다. 동일한 목표를 향하여 자신의 이름을 쓰지 않으면서 헌신하는 것이 쉽지 않다는 것을 말하기도 하고, 시대가 꼭 그런 공동 작업을 통해서 새로운 집단 이름을 필요로 하지 않은 상황이 되었다는 것도 의미한다.

아무튼 수학사에서, 나아가 20세기 지식의 역사에서 중요한 역할을 한 수학자 집단에 대해서 재미있고, 의미 있는 이야기를 읽었다.