수학의 덕목, 아인슈타인과 힐베르트
프랑스 화가 앙리 쥘 장 조프루아(Henry Jules Jean Geoffroy, 1853~1924)는 어린이 그림으로 유명하다. 그의 그림 두 점을 비교해 보자. 재밌다. 아이가 칠판에 그림을 그린다. 해, 사람, 그리고 바다에 떠다니는 배, 망설임이 없다. 하지만 ‘2+2’, 산수 문제를 만나자, 아이가 당혹스러워한다. 하나, 둘로 표현되는 수(數)가 추상적이기 때문이다. 현실에서는 개 두 마리와 얼음 두 조각을 더할 수 없다. 그러나 수학에서는 가능하다. 그래서 추상적이다.
많은 이가 인생, 사랑, 정치, 그리고 종교에 이르기까지 지나칠 정도로 자기 주관이 뚜렷하다. 그러나 이들 대다수는 수학을 상대적으로 어려워한다. 자가당착이다. 수학은 어쨌든 해(解)가 있다. 하지만 인생과 정치, 이 난제들은 정답이 없다. 그런데도 자기 말만 옳다며 핏대를 세운다. 그 과정에서 경청과 양보는 찾아보기 힘들다. 어찌 자가당착이라고 아니할쏜가? (제목 그림; 장 조프루아의 <어린이 학급(1889)>)
수학은 자연의 복잡한 현상을 단순화했다. 자연에서 벌어지는 현상에서 공통점과 규칙성을 찾아 일반화시켰다. 그냥 따라가다 보면, 대체를 이해할 수 있다. 뉴턴과 맥스웰 이후 수학은 과학의 훌륭한 검증 수단으로 자리 잡았다. 특히 실험이 불가능한 세계에서 수학적 증명은 신뢰성에서 높은 지위를 차지한다. 물론 추상화가 더욱 진행되면서 이해가 어렵다는 점은 전적으로 동의한다. 아인슈타인도 1943년 ‘수학이 어렵다’고 쓴 아홉 살 바바라의 편지에 이렇게 답장했다.
“걱정하지 말아라. 내게는 더 어렵단다.”
아이의 고민을 덜어주려고 일부러 한 말일 수 있다. 그러나 대중은 이 말을 ‘수학을 몰라도 물리학이 가능하다’고 곡해했다. 나아가 아인슈타인이 수학을 잘 못했다고 착각했다. 어릴 때 아인슈타인의 수학 실력은 탁월했다. 그러나 뉴턴의 만유이론을 대체하는 새로운 중력이론, 즉 일반상대성이론을 세울 때 수학의 어려움을 절실하게 느낀 것은 사실이다. 앞서 설명했듯이 일반상대성이론은 시공간이 휘어진다는 점을 강조한다.
그런데 그 정도를 계산하려면, 스승 가우스의 기하학을 정교하게 발전시킨 베른하르트 리만(Georg Friedrich Bernhard Riemann, 1826~1866)의 기하학이 필수적이다. 리만 기하학은 굽은 공간의 곡률을 일반화한 난해한 이론이다. 아인슈타인은 리만 곡률과 물질의 비례 관계를 설명하는 방정식을 찾으려 10년간 고심했다. 1913년, 같은 취리히 연방 공과대학 수학 교수로 근무하는 친구 마르셀 그로스만과 먼저 <일반화된 상대성 이론과 중력 이론에 관한 개론>을 발표했다. 하지만 수성의 근일점 이동 현상을 제대로 설명하기에는 부족했다. 그로스만으로부터 받은 리만의 미분 기하학에 관한 책을 더 깊이 파고들었다.
막바지에 아인슈타인을 특히 초조하게 만든 인물이 있었다. 바로 독일 괴팅겐의 위대한 수학자 다비트 힐베르트(David Hilbert, 1862~1943)다. 아인슈타인의 강연에 참석했던 힐베르트는 그가 무엇을 찾는지 곧바로 이해했다. 그리고 그 해를 찾는 별도의 방정식을 연구하기 시작했다. 변분법(變分法)이다. 적분 형태로 표현되는 에너지 또는 거리가 최소 혹은 최대가 되게 하는 곡선이나 속도 등을 찾는 방법이다. 그러자 아인슈타인은 힐베르트에게 뒤질까 쫓기듯 매주 공식을 발표했다. 번번이 틀려가면서. 마침내 1915년 11월 25일, 아인슈타인이 간발의 차이로 세 쪽짜리 <중력의 장 방정식>을 먼저 발표했다. 이듬해 5개 장, 22개의 절로 구성한 <일반상대성이론의 기초>에 그간의 수고를 세세하게 정리한 점으로 미루어 보아 당시 촉박했던 그의 심정을 짐작할 수 있다.
힐베르트에겐 반박할 말이 있었다. 아인슈타인의 발표 5일 전인 11월 20일에 논문 <물리학의 기초>를 괴팅겐 학술원에 보냈다. 내용이 아인슈타인의 새로운 방정식과 본질적인 면에서 같았다. 그런데도 그는 자신이 먼저 발견했다는 주장을 한 번도 하지 않았다. “괴팅겐의 어떤 젊은이도 아인슈타인보다 4차원 기하학을 더 잘 안다. 하지만 과제를 해결한 것은 아인슈타인이었다”며 오히려 수학자가 아닌 물리학자의 상상력과 창의성을 칭찬했다. 힐베르트로서는 수학의 일부로 머물던 리만 기하학이 물리학에 응용되었다는 점이 흐뭇했을지 모를 일이다. 실제 일반상대성이론의 장 방정식은 이후 아인슈타인도 몰랐던 빅뱅과 블랙홀을 예측해 냈다.
한편 힐베르트는 편견과 싸우던 에미 뇌터((Amalie Emmy Noether, 1882~1935)를 정식 교수로 추천한 인물이다. 그녀는 1918년 “물리계가 어떤 대칭성을 갖고 있으면, 거기 해당하는 보존량이 항상 존재한다”는 ‘뇌터의 정리’를 완성했다. 이론 물리학의 기본이 되는 정리였으나 소모적인 논쟁에 휩쓸렸다. 게다가 여자라는 이유로 종신 교수직을 거부당하는 차별까지 감수해야 했다. 이때 힐베르트는 뇌터를 추천하면서 “대학은 학문을 연구하는 곳이지, 목욕탕이 아니다”라고 일갈했다.
1934년에는 이런 일도 있었다. 한 연회에서 옆자리에 앉은 나치 정부의 교육부 장관 베른하르트 루스트로부터 “유대인의 영향력에서 해방되었는데, 괴팅겐 대학의 수학과가 잘 되어 가느냐?”는 질문을 받았다. 대답은 역시 힐베르트다웠다.
“괴팅겐대학 수학과요? 이제는 아무것도 없습니다.” (시어도어 젤딘, <인생의 발견>)
아인슈타인은 담대했던 선배 힐베르트의 배려에 “저는 활짝 갠 우정의 마음으로 당신을 생각하고 있습니다”라며 감사의 뜻을 표했다. 수학은 과정의 합리성을 중요하게 여기는 학문이다. 김민형 교수는 <수학이 필요한 순간>에서 “수학적으로 사고하면, 도덕적으로 그릇된 답을 피할 수 있다”고 알려준다. 늦지 않았다. 인생에서 오류를 줄이고, 과정을 즐기는 지혜를 수학에서 구하시라.
