[수학의 역사 14편]. 힐베르트

— 수학을 공리로 봉인하려는 꿈

1. 서두 — 질문과 장면 제시

“수학 전체를 몇 개의 기본 원칙으로 완전히 설명할 수 있을까?”

1900년, 파리. 만국박람회로 떠들썩한 도시의 한 학회장에서 다비드 힐베르트는 무대에 섰습니다. 그는 수학자들을 향해 선언했습니다.

“미래의 어떤 수학자도, ‘우리는 모른다’고 말해서는 안 된다.”

당시의 수학은 엄청난 확장 속에 있었습니다. 비유클리드 기하학, 무한 집합론, 대수적 구조… 그러나 기초가 흔들리고 있었습니다. 무한을 다루다 보니 역설이 쏟아졌고, 서로 다른 분과들이 제멋대로 언어를 쓰고 있었습니다. 힐베르트는 그 혼돈을 두려워했습니다. 그는 수학을 공리(axiom)라는 단단한 기초 위에 올려놓고, 모든 정리를 논리적으로 연역하려 했습니다. 수학을 무한히 확장시키기 위해, 그는 먼저 수학을 철저히 가두려 했습니다.

2. 본론 1 — 역사적 사건과 인물

1862년 프로이센의 쾨니히스베르크에서 태어난 힐베르트는 괴팅겐 대학에서 활동하며 20세기 초 수학계를 주도했습니다. 그는 1899년 『기하학의 기초』에서 기하학의 모든 명제를 소수의 공리로 재정의하려 했습니다. 여기서 그는 기하학을 직관이나 그림에 기대지 않고, 논리 기호로만 다루는 방식을 제시했습니다. 평행선 공리조차도 “어떤 점과 직선에 대해…”라는 기호 언어로 다시 썼습니다.

1900년, 파리에서 열린 세계수학자대회(ICM)에서 그는 23개의 미해결 문제 목록을 발표했습니다. 이 목록은 이후 한 세기의 수학을 사실상 설계도처럼 이끌었고, 현대 수학의 방향타가 되었습니다. 그는 또 형식주의(formalism)라는 철학을 제시했습니다.

수학을 기호의 조작 규칙으로 환원하고, 그 체계가 무모순임을
증명하겠다는 계획이었습니다. 이른바 ‘힐베르트 프로그램’입니다.

3. 본론 2 — 철학적 전환과 긴장

힐베르트의 형식주의는 근대 수학을 하나의 기계적 체계로 보려는 시도였습니다. 자연수, 집합, 함수, 공간… 그 어떤 개념도 기초 공리에서 출발해 논리적으로 유도될 수 있어야 한다는 것입니다. 이 시도는 엄청난 자신감의 산물이었습니다. 그는

“우리는 반드시 알 수 있다.
그리고 우리는 알 것이다”라고 선언했습니다.