수학자이자 물리학자 폰 노이만
3장 양자역학의 시대를 열다
신은 어떤 식으로 주사위 게임을 하는가?
내가 수학을 조금만 더 잘했다면 인생이 훨씬 편했을 텐데… - 에르빈 슈뢰딩거, 1925
노이만은 박사학위 과정을 마친 즉시 록펠러 재단(Rockefeller foundation)의 후원을 받아 힐베르트가 있는 괴팅겐 대학교로 향했다. 당시 괴팅겐 대학에는 베르너 하이젠베르크(Werner Heisenberg, 1901~1976)라는 또 한 명의 젊은 천재가 있었다.
당시 그는 매우 성공적이면서도 기상천외한 이론의 기초를 닦은 물리학자였는데, 원자와 그 구성 요소(전자, 양성자, 중성자 등)의 거동 방식을 설명하는 이 이론은 훗날 ‘양자역학’으로 불리게 된다.
양자의 시대가 열리다
1900년 막스 플랑크의 복사와 양자
1900년, 독일의 물리학자 막스 플랑크(Max Planck, 1858~1947, 1918년 노벨 물리학상 수상)는 썩 내키지 않는 마음으로 ‘빛띠(스펙트럼)의 에너지 분포 법칙의 이론에 관하여’라는 논문에서 (*전자기파가 연속된 파동이라는 기존의 학설을 뒤엎고) “(전자기파) 에너지는 어떤 최소 단위의 덩어리로 흡수되거나 방출된다”는 가정하에 양자(quantum)*라는 개념을 처음으로 도입했다.
이 이론은 처음에는 그저 이상한 실험결과를 설명하기 위해 억지로 고안한 궁여지책으로 보였지만, 얼마 지나지 않아 이 개념은 수학의 기초를 뒤흔들었던 러셀의 역설처럼 물리학에 일대 혁명을 몰고 왔다.
'기적의 해(annus mirabilis)'로 묘사되는 1905년에 아인슈타인은 ‘빛의 창조와 변화에 관한 과학적 관점에 대하여’라는 논문에서 플랑크의 아이디어를 이용하여 (광전효과를 설명하는) 빛이 입자의 흐름이라는 이론을 발표했는데(1921년 노벨 물리학상 수상), 이것은 빛이 입자이면서 동시에 파동임을 암시하는 첫 번째 힌트였다.
1913년 닐스 보어의 원자 모형
그 즈음 덴마크의 물리학자 닐스 보어(Niels Bohr, 1885~1962, 1922년 노벨 물리학상 수상) 역시 뉴턴의 고전물리학에 플랑크의 양자 개념을 결합한 새로운 원자 모형을 구상하느라 바쁜 나날을 보내고 있었다.
그가 1913년에 발표한 원자 모형에 의하면 전자는 원자 내부에서 특정한 궤도만 점유할 수 있으며, 전자가 자신이 속한 궤도와 이웃 궤도의 에너지 차이에 해당하는 양자(에너지 덩어리)를 흡수하면 이웃 궤도로 점프(전이, transition)할 수 있다.
당시 과학자들은 각 원소들이 저마다 고유한 스펙트럼선을 만든다는 사실을 잘 알고 있었는데, 보어는 “복사 스펙트럼에 나타난 가느다란 선은 원자 내부에서 높은 에너지로 들뜬 상태에 있던 전자가 바닥 상태(ground state, 에너지가 가장 낮은 상태)로 떨어지면서 방출한 복사(빛)의 흔적이며, 이때 방출된 광파(빛의 파동)의 에너지는 들뜬 상태와 바닥 상태의 에너지 차이와 같다”고 주장했다.
1925년 하이젠베르크의 행렬 역학
보어의 원자 모형 발표 이후 1925년에 하이젠베르크는 양자 이론을 수학적으로 표현한 ‘행렬 역학(matrix mechanics)’을 완성했다. 이때 발표한 논문의 제목은 「운동학과 역학의 관계에 대한 양자 이론적 재해석(Quantum-Theoretical Reinterpretation of Kinematic and Mechanical Relations)」인데, 이 논문은 그해 여름이 끝나갈 무렵 물리학계에 느닷없이 떨어진 폭탄과도 같았다(1932년 노벨 물리학상 수상).
체질적으로 건초열병(hay fever, 일종의 꽃가루 알레르기)에 시달렸던 하이젠베르크는 1925년 6월에 독일 북쪽 해안에서 50킬로미터 거리에 있는, 꽃가루가 없는 북해 헬골란트섬(Helgoland Island)에서 2주 동안 휴가를 보내던 중 행렬역학의 기본 아이디어를 떠올렸다.
그는 "과학자들이 실험실에서 직접 목격한 현상을 수학적으로 설명할 수는 없을까?"하는 고민에 빠졌고, 특히 그의 관심을 끈 것은 ‘스펙트럼선(spectral lines)’에 나타난 진동수(frequency)와 상대적 강도(relative intensity)였다.
하이젠베르크는 관측된 사실에 주목하다가 원자의 복사 스펙트럼선을 쉽게 표현하는 방법을 고안했다. 가로줄에 전자의 처음 상태 에너지를, 세로줄에 전자의 나중 상태 에너지를 할당한 2차원 배열을 도입하는 것이다. 이렇게 하면 전자가 네 번째 에너지준위에서 두 번째 에너지준위로 떨어질 때 방출한 복사의 진동수는 배열의 네 번째 가로줄과 두 번째 세로줄이 만나는 곳에서 찾을 수 있다.
하이젠베르크는 모든 가능한 전이 확률을 쉽게 구하기 위해, 개개의 전이 확률을 2차원 배열로 나열해놓고 가로줄과 세로줄을 함께 곱하는 방식을 채택했다. 그런데 이렇게 배열해놓고 보니 이상한 성질이 눈에 들어왔다. 배열 A에 다른 배열 B를 곱해서 얻은 배열과 B에 A를 곱해서 얻은 배열이 서로 달랐던 것이다.
이것은 꽤나 골치 아픈 결과이다. 일상적인 수는 이런 식으로 거동하지 않기 때문이다. 수학자들은 ‘순서를 바꿔도 결과가 달라지지 않는 연산’을 가환연산(commutative operation)이라 한다. 그런데 하이젠베르크의 배열은 가환적이지 않다. 즉 이 배열은 곱셈의 교환 법칙을 만족하지 않는다.
휴가 여행을 마치고 돌아온 하이젠베르크는 막스 보른(Max Born, 1882~1970, 1954년 노벨 물리학상 수상)의 보조 연구원으로 발탁되어 자신의 논문 초안을 보른에게 보여주었다.
보른은 하이젠베르크가 1850년 영국의 수학자 제임스 실베스터(James Sylvester)가 고안하고 그의 동료 아서 케일리(Arthur Cayley)를 통해 널리 알려진 수학의 ‘행렬(matrix)’을 사용했음을 바로 파악했다.
하이젠베르크의 전이확률에서 영감을 얻은 보른은 입자의 ‘위치’와 ‘운동량’을 연결하는 방정식을 직관적으로 떠올렸는데, 이들도 역시 행렬처럼 서로 비가환적인 양이어서 ‘위치×운동량’과 ‘운동량×위치’가 아주 조금 달랐다(원자 규모에서는 결코 무시할 수 없는 크기였다).
이후 하이젠베르크는 '행렬역학'의 비가환성에 담긴 물리적 의미를 곰곰히 생각하다가 드디어 1927년에 “입자의 위치와 운동량은 동시에 정확한 값을 가질 수 없다”는 완전히 새로운 자연법칙을 발견하게 된다.
임의의 순간에 입자의 위치와 운동량(또는 속도)을 동시에 정확하게 알아내는 것이 원리적으로 불가능하다면, 그다음 순간에 입자의 위치와 운동량을 예견할 수도 없다. 예측 가능성을 생명으로 여겨왔던 물리학에 빨간 불이 켜진 것이다. 이 원리가 바로 그 유명한 ‘불확정성원리(uncertainty principle)’이다.
1926년 슈뢰딩거의 파동역학과 파동방정식
한편 1926년 노이만이 괴팅겐에 도착했을 때, 취리히 대학교 물리학과 교수인 에르빈 슈뢰딩거(Erwin Schrödinger, 1887~1961)는 하이젠베르크의 행렬역학과 전혀 다르게 파동에 기초한 ‘파동역학(wave mechanics)’이라는 완전히 다른 방식으로 양자역학을 구축했다(1933년 노벨 물리학상 수상).
슈뢰딩거는 1925년 10월부터 프랑스의 귀족 물리학자 루이 드브로이(Louis de Broglie, 1892~1987, 1929년 노벨 물리학상 수상)의 가설, 즉 전자가 파동성과 입자성을 모두 갖고 있다는 '파동-입자 이중성 문제'*를 파고들기 시작했다. 드브로이의 가설은 처음에는 물리학자들의 주목을 받지 못하다가 1927년 전자가 빛처럼 간섭(interference)과 회절(diffraction)하는 현상이 실제로 관측되면서 사실로 확인되었다.
루이 드 브로이는 전자의 궤적을 안내하는 어떤 파동이 존재한다고 주장했다. 전자가 핵 주위를 돌 때 그것이 따라가야 하는 길을 잡아주는 파동이 드브로이가 주장하는 파동이다. 이 파동은 드브로이의 물질파에 관한 식에서 볼 수 있듯이 전자의 질량과 속도에 의해 결정된다. 만약 전자가 이러한 파동에 의해 이끌어진다면 공간에 있는 보통 입자들 역시 파동에 의해 이끌어 질것이며, 따라서 모든 물질은 이러한 파동을 가진다고 보았다.
그러나 슈뢰딩거는 드브로이의 가설에는 중요한 요소가 누락되었음을 깨달았다. 즉 19세기 중반 스코틀랜드의 제임스 클럭 맥스웰(James Clerk Maxwell, 1831~1879)이 빛(전자기파)의 거동을 서술하는 방정식을 유도한 것처럼, 물질파(전자의 파동)의 특성을 완전히 이해하려면 그에 해당하는 운동방정식이 필요했던 것이다.
맥스웰 방정식(Maxwell's equations)은 전기와 자기의 발생, 전기장과 자기장, 전하 밀도와 전류 밀도의 형성을 나타내는 4개의 편미분 방정식이다. 각각의 방정식은 가우스 법칙, 가우스 자기 법칙, 패러데이 전자기 유도 법칙, 앙페르 회로 법칙으로 불리는데, 이를 맥스웰이 종합한 이후 '맥스웰 방정식'으로 불리게 되었다.
슈뢰딩거는 크리스마스 휴가 2주 동안 방정식을 마무리하기로 마음먹고 애인과 함께 알프스 '아로사' 리조트로 여행을 떠났다. 그리고 1926년 1월 취리히로 돌아와서 자신이 유도한 파동방정식을 발표했는데, 뉴턴역학을 대표하는 운동방정식(F=ma)처럼, 양자역학을 대표하는 파동방정식(wave equation)이 드디어 탄생한 것이다. 그러나 슈뢰딩거는 방정식을 유도해 놓고도 거기 등장하는 파동의 의미를 제대로 알지 못했다.
슈뢰딩거 방정식의 해를 파동함수(wave function, Ψ로 표기)라 하는데, Ψ는 파동의 높이(진폭)가 시간에 따라 변하는 양상을 말해준다. 수소 원자의 경우 슈뢰딩거 방정식의 개개의 해는 보어가 예견했던 전자의 궤도 중 하나를 나타내며, 이들을 모두 더한(또는 중첩시킨) Ψn가 바로 수소 원자의 전체적인 파동함수이다.
슈뢰딩거는 파동함수에서 주어진 물리계의 에너지에 관한 정보를 추출하기 위해 ‘연산자(operator, ‘에너지 연산자’, 해밀토니안(Hamiltonian)이라고도 함)’라는 수학 도구를 사용했다. 연산자란 간단히 말해서 ‘수학적 명령’에 해당한다.
그리고 파동방정식과 같은 방정식의 해(파동함수)를 ‘고유함수(eigen function)’라 하고, 이 고유함수를 방정식에 대입하여 얻은 최종적인 답(원자의 에너지준위)을 ‘고윳값(eigen value)’이라 한다.
이것은 힐베르트가 1904년에 만든 용어로서, eigen은 독일어로 ‘고유의~’라는 뜻이다. 또한 힐베르트는 스펙트럼 이론을 개발하여 연산자와 고윳값을 다루는 수학의 범위를 크게 넓혀놓았다. 여기서 말하는 ‘스펙트럼’이란 특정 연산자에 대응되는 모든 고윳값(방정식의 해)의 집합을 의미한다(‘완전집합(complete set)’).
폴 디랙의 ‘난폭한 수학’
1925년 봄까지만 해도 원자물리학에는 딱히 ‘이론’이라고 부를 만한 것이 없었다. 그런데 1년이 채 지나기도 전에 2개의 이론이 등장했다. 이들은 주어진 역할을 충실하게 해냈지만, 둘 다 옳다는 보장은 어디에도 없었다. 겉으로 보기에 완전히 다른 두 이론이 동일한 양자적 실체를 서술하는 것일까?
보어와 아인슈타인을 비롯한 일부 과학자들은 두 이론이 완전히 다른 관점으로 사물의 본질에 접근하고 있다며 심히 걱정스러운 눈으로 바라보았다. 물리학보다 수학 쪽으로 편향된 수리물리학자들도 사정은 마찬가지였다.
하이젠베르크의 무한히 많은 숫자 배열(행렬)과 슈뢰딩거의 기이한 확률파동 사이에는 무언가 심오한 연결고리가 있을 것 같다. 아니, 반드시 있어야만 한다. 그 연결고리란 대체 무엇일까?
파동역학과 행렬역학이 처음 등장했을 때, 많은 물리학자들은 ‘두 이론의 연결고리를 찾으려면 이론의 중심에 있는 두 종류의 무한대를 조화롭게 일치시켜야 한다’고 생각했다.
예를 들어 원자는 무수히 많은 에너지준위를 갖고 있으므로, 하이젠베르크의 행렬이 모든 가능한 전이(에너지준위 사이에 일어나는 점프)를 표현하려면 행렬의 가로와 세로가 무한히 커야 한다. 그리고 자연수의 순서에 따라 행렬에 들어갈 숫자들을 정렬시킬 수 있다. 즉 무한히 많긴 하지만 ‘헤아릴 수 있을 정도로’ 무한하다.
반면에 슈뢰딩거의 이론에서는 무수히 많은 가능성을 서술하는 파동함수가 양산된다. 양자 이론에 의하면 전자는 누군가가 관측을 시도하여 위치를 파악하기 전까지는 여러 개의 가능성이 중첩된 상태에 놓여 있으며, 개개의 가능성은 하나의 측정한 위치(x, y, z)에 대응된다.
그런데 노이만의 표현에 따르면, "이들은 각기 다른 형태의 '공간'을 점유하고 있기 때문에 이들을 연결하기 위해 '다소 난폭한' 수학을 동원할 필요"가 있는데, 이를 실행한 사람은 과묵하기로 유명한 영국의 이론물리학자 폴 디랙(Paul Dirac, 1902~1984, 1933년 노벨 물리학상 수상)이다.
디랙은 1925년부터 자신이 개발한 새로운 버전의 양자 이론을 조금씩 공개하기 시작했다. 그리고 1930년에 출간한 저서 『양자역학의 원리(The Principles of Quantum Mechanics)』에서는 하이젠베르크의 ‘불연속 공간’과 슈뢰딩거의 ‘연속 공간’을 하나로 합치는 독창적인 방법을 제시했다.
그의 논리의 핵심은 그가 창안한 ‘디랙 델타함수(Dirac delta function)’였다. 결국 디랙은 델타함수를 이용하여 파동역학과 행렬역학이 동전의 양면처럼 친밀한 관계임을 증명했다.
이것은 원점(직교좌표에서 x=0, y=0인 지점-옮긴이)에서의 값이 무한대이고 그 외의 지점에서는 0인 희한한 함수로서, 그래프로 그리면 원점에서 가느다란 선이 뾰족하게 튀어나온 형태이다.
그런데 희한하게도 이 그래프 아래의 면적은 0이 아니라 1이다. 밑변의 길이가 0이고 높이가 무한대인 도형의 면적이 1이라니 언뜻 이해가 안 가겠지만, 디랙이 그렇게 정의했으니 그냥 따라가는 수밖에 없다. 델타함수는 수학 법칙에 위배되었지만 디랙은 전혀 신경 쓰지 않았다.
노이만을 포함한 여러 수학자들은 이런 식의 불완전한 통일을 달가워하지 않았다. 델타함수를 ‘부적절한 개념’이나 ‘불가능한 시도’, 또는 ‘수학적 허구’로 여겼기 때문이다.
새로운 과학에 대하여 좀 더 깔끔한 해석을 원했던 노이만은 양자역학 체계를 새로 구축하기 위해 다양한 시도를 하다가, 힐베르트의 오래된 연구 결과에서 결정적인 실마리를 찾게 된다.
한편 1907년에 수학자 프리제시 리에스(Frigyes Riesz)와 에른스트 피셔(Ernst Sigismund Fischer)가 몇 달 간격으로 '제곱적분가능함수(square integrable function)'*와 관련된 중요한 논문을 발표했는데, 노이만은 이들의 연구가 파동역학과 행렬역학을 연결하는 실마리임을 보는 즉시 간파했다.
* 무한차원 공간인 힐베르트 공간에서 '제곱해서 모든 공간에 대해 적분할 수 있는(또는 더할 수 있는) 함수들’이다. 여기서 ‘적분할 수 있다’는 말은 적분 결과가 유한하게 나온다는 뜻이다.
노이만은 곧바로 하이젠베르크의 행렬역학과 슈뢰딩거의 파동역학의 연결고리로 눈을 돌렸다. 전개된 파동함수(expanded wavefunction, 직교함수의 합으로 표현된 파동함수)를 자세히 보니, 각 직교함수에 곱해진 계수들이 상태를 나타내는 행렬 요소(행렬 속에 들어 있는 숫자들)와 정확하게 일치하는 것이 아닌가!
완전히 다르게 보였던 두 공간은 사실 동일한 공간이며, 파동 이론과 행렬 이론을 분석하는 기반이었다. 디랙과 슈뢰딩거 같은 양자 이론의 대가들도 두 이론이 궁극적으로 같다는 것을 증명하기 위해 다양한 시도를 해왔지만, 정작 이 일을 처음으로 해낸 사람은 물리학자가 아닌 수학자 존 폰 노이만이었다.
양자역학의 수학적 분석
록펠러 재단의 지원이 1927년에 만료되었을 때, 23세의 청년 노이만은 베를린 대학교의 제안을 받아들여 학교 역사상 가장 젊은 개인강사(Privatdocent, 학교로부터 월급을 받지 않고, 강의를 듣는 학생들로부터 강의료를 직접 받는 직책)로 부임하면서 베를린에 새 둥지를 틀었다.
당시 베를린은 활기찬 밤 문화뿐만 아니라 과학 분야에서도 세계 최고 수준을 자랑하는 도시였다. 1920년대에 과학의 공용어는 영어가 아닌 독일어였고, 양자역학의 초기 논문은 독일어로 써서 독일 학술지에 게재하는 것이 정석이었다.
베를린에서는 젊은 학자들이 참석하는 학회와 세미나가 거의 매일 개최되었으며, 카페와 술집에서도 신변잡기보다 학술적인 대화가 주류를 이루었다. 1988년에 위그너는 한 인터뷰 자리에서 그 시절을 회상하며 말했다. “당시 미국은 소련과 비슷했습니다. 일류 과학 교육은 찾아볼 수 없고 덩치만 큰 나라였지요. 과학 최강국은 누가 뭐라 해도 독일이었습니다.”
아무튼 노이만은 집합론을 연구할 때 그랬던 것처럼 양자역학을 자신의 수학으로 고쳐 쓰느라 매우 바쁜 나날을 보내고 있었다. 처음에 노르트하임, 힐베르트와 공동 연구를 하다가 독립을 선언한 그는 1932년에 『양자역학의 수학적 기초(Mathematische Grundlagen der Quantenmechanik)』라는 걸작을 통해 “양자 이론은 힐베르트 공간*의 수학적 특성으로부터 자연스럽게 유도된다”는 놀라운 사실을 증명했다.
* 힐베르트는 20세기의 처음 10년 동안 무한차원을 다루는 수학을 개발했고, 이 분야의 세계적 전문가로 성장한 노이만은 그의 스승의 이름을 따서 무한차원 공간을 ‘힐베르트 공간(Hilbert space)’으로 명명했다.
양자 이론의 엄밀한 체계를 세웠다는 점에 스스로 만족한 노이만은 양자 이론의 가장 뜨거운 논쟁거리로 눈길을 돌렸다. “이 정도면 됐다. 양자역학의 수학은 충분히 아름답고 우아하다. 그런데 이 우아한 수학 체계의 저변에서 대체 무슨 일이 벌어지고 있는가?”
양자역학이 처음 등장했을 때부터 물리학자들은 이 이론이 물리적 세계에 대하여 무엇을 말해주고 있는지 갈피를 잡기가 어려웠다. 가장 큰 문제는 슈뢰딩거 방정식의 해인 파동함수가 현실 세계의 무엇에 해당하는지, 마땅한 해석을 내리지 못했다는 점이다.
당시 슈뢰딩거가 재직했던 대학의 학생들은 ‘위대하신 교수님’을 위로한다며 다음과 같은 노래를 부르고 다녔다.
"에르빈은 자신이 발견한 Ψ로(Erwin with his psi can do)
꽤 많은 계산을 할 수 있었지(Calculations quite a few).
하지만 한 가지는 여전히 모른다네(But one thing has not been seen).
대체 Ψ가 뭐야(Just what does psi really mean?)"
모든 문제는 원자와 광자의 상호작용이 현미경이나 분광기, 또는 우리의 눈을 통해 관측되는 ‘양자물리학과 고전물리학의 경계’에서 발생한다. 양자 이론에 의하면 입자는 무수히 많은 상태가 겹쳐진 ‘중첩 상태(superposotion)’로 존재할 수 있다.
그런데 누군가가 실행한 관측 행위 때문에 자신의 위치가 발각되는 순간, 전자는 곧바로 양자적 특성을 던져버리고 언제 그랬냐는 듯이 고전적인 모습을 태연하게 보여주는 것이다. 노이만은 관측 전후에 판이하게 달라지는 이 두 가지 상태를 ‘이론의 기초’라고 했다.
이 과정은 불연속적으로 진행되며(갑자기 변한다는 뜻), 거꾸로 되돌릴 수도 없다. 입자가 하나의 상태를 ‘선택하면’ 슈뢰딩거의 방정식은 더 이상 적용되지 않고 다른 상태들은 흔적도 없이 사라진다. ‘파동함수의 붕괴(wave function collapse)’로 알려진 이 과정은 고전물리학의 어떤 이론으로도 설명될 수 없다.
파동함수의 붕괴 여부와 붕괴되는 방법, 그리고 붕괴되는 시간은 그 골치 아픈 ‘관측 문제(measurement problem)’의 근원이다. 이 문제에 대해서는 지금도 다양한 해석이 난무하고 있는데, 슈뢰딩거는 이 현상을 설명하기 위해 1935년에 ‘양자적 얽힘(quantum entanglement)’이라는 용어를 도입했다.
양자적으로 얽힌 한 쌍의 물체가 초기에 상호작용을 교환한 후 서로 아득히 멀어졌다 해도 둘 중 하나를 골라 임의의 물리량을 측정하면, 두 물체의 상태를 뭉뚱그려 서술하는 전체 파동함수가 그 즉시 붕괴된다는 뜻이다(아인슈타인은 이를 ‘유령 같은 원거리 작용(spooky action at a distance)’이라 불렀다).
노이만은 희한하기 그지없는 양자역학에 별다른 적개심을 갖지 않았다. 말끝마다 트집을 잡았던 아인슈타인보다는 훨씬 너그러웠다. 단지 노이만은 양자역학의 저변에 깔려 있는 이중성이 어떤 모순을 낳는지 알고 싶을 뿐이었다. 1932년에 노이만은 물리학자들의 의견을 최초로 종합하여 나름대로 분석 결과를 발표했다.
다행히도 이중성은 아무런 모순도 낳지 않았다. 양자계와 고전계의 경계선을 어디에 설정하건, 관측자가 얻는 답은 항상 같았던 것이다. 그리하여 노이만은 이 경계선을 관측자의 몸 안 깊숙한 곳, 심지어는 자각이 일어나기 바로 직전까지 옮길 수 있다고 결론지었다.
노이만이 얻은 결과에 의하면 ‘관측되는 계’와 ‘관측자의 의식’을 이어주는 연결고리 어딘가에서 파동함수가 (즉각적으로) 붕괴되는 한, 모든 것은 크기와 복잡성에 상관없이 양자적 물체로 취급할 수 있다.
이 시나리오에서 관측이 실행되기 전에 관측 대상의 물리적 특성을 논하는 것은 아무런 의미가 없다. 파동함수가 붕괴되기 전에는 물체의 위치를 알 방법이 없기 때문이다. 이것이 바로 오랜 세월 동안 양자역학을 지배해온 ‘코펜하겐 해석(Copenhagen interpretation)’*이다.
보른의 이른바 확률파동 개념은 파동함수가 물리적인 실재라 여겼던 슈뢰딩거의 생각과는 너무나 달랐다. 반면 보어와 하이젠베르크는 보른의 해석을 적극 받아들였고 이를 바탕으로 양자이론을 어떻게 이해할 것인지에 대한 일련의 해석법을 정립해 나갔다. 이를 ‘코펜하겐 해석’이라 한다.
1. 입자의 상태는 파동함수에 의해 결정되며, 파동함수의 제곱은 측정값에 대한 확률밀도를 나타낸다.
2. 모든 물리량은 관측이 가능할 때만 의미를 가진다. 물리적 대상이 가지는 물리량은 관측과 관계없는 객관적인 값이 아니라 관측 작용의 영향을 받는 값이다.
3. 서로 관계를 가지는 물리량들은 하이젠베르크가 제안한 불확정성 원리에 따라 동시에 정확하게 측정하는 것이 불가능하다.
4. 전자와 같은 입자들은 입자의 성질과 파동의 성질을 상보적으로 가진다.
5. 양자 도약이 가능하다. 양자 물리학적으로 허용된 상태들은 불연속적인, 특정한 물리량만 가질 수 있다. 따라서 한 상태에서 다른 상태로 변하기 위해서는 한 상태에서 사라지고 동시에 다른 상태에서 나타나야 한다.
상자 속의 고양이는 살았을까, 죽었을까?
노이만의 『양자역학의 수학적 기초』는 뛰어난 수학자가 심혈을 기울여 집필한 최고의 명작으로 손색이 없다. 영국의 한 소년은 수학경시대회에서 우승하여 이 책(독일어 버전)을 부상으로 받았는데, 단숨에 읽은 후 어머니에게 다음과 같은 감상문을 보냈다. “정말 재미있게 읽었어요. 하나도 어렵지 않던데요?”
노이만의 책을 소설 읽듯이 술술 읽었던 그 소년의 이름은 앨런 튜링(Alan Turing)이었다. 그러나 『양자역학의 수학적 기초』는 한 젊은 수학자의 거만함을 가감 없이 드러낸 책이기도 했다. 독자들 중에는 “28세밖에 안 된 신출내기 수학자가 마치 양자역학의 종결자인 양 잘난 척을 하고 있다”며 빈정대는 사람도 있었다.
슈뢰딩거는 코펜하겐 해석에 동의하지 않았고, 아인슈타인과 편지를 교환하면서 양자역학의 취약점에 대해 심도 있는 토론을 벌이다가, 대상을 가리지 않고 양자역학을 마구잡이로 적용하는 추세에 제동을 걸기 위해 한 가지 사고실험(thought experiment, 실행이 불가능하여 생각만으로 진행되는 실험)을 제안했다.
슈뢰딩거는 1935년에 발표한 논문에 다음과 같이 적어놓았다. ‘슈뢰딩거의 고양이’로 알려진 이 역설은 양자 이론의 취약점을 만천하에 드러내는 결정적 한 방이었다.
... 여기서 한 걸음 더 나아가, 한층 더 터무니없는 경우를 생각할 수도 있다. 고양이 한 마리를 철제 상자에 가두고, 그 안에 다음과 같은 무시무시한 장치를 설치했다고 하자(단, 고양이가 이 장치를 망가뜨리지 않도록 잘 단속해야 한다).
가이거 계수기(Geiger counter, 입자를 탐지하여 방사능을 측정하는 장치) 안에 작은 방사성 물질 한 조각을 넣어둔다. 이 물질은 한 시간 안에 원자 1개가 붕괴할 확률이 50퍼센트이며, 붕괴되지 않을 확률도 똑같이 50퍼센트이다. 만일 원자가 붕괴되면 계수기의 눈금이 움직이면서 연결된 망치가 작동하여 시안화수소산(청산)이 들어 있는 작은 병을 깨뜨리도록 세팅되어 있다.
이 상태에서 상자의 뚜경을 닫고 한 시간 동안 방치해두었다고 하자. 만일 그 사이에 원자가 하나도 붕괴되지 않았다면 고양이는 한 시간 후에도 멀정하게 살아 있을 것이다. 그러나 원자가 붕괴 되었다면 첫 번째 붕괴가 일어나는 즉시 고양이는 죽는다. 그렇다면 전체 시스템을 서술하는 파동함수(Ψ)에는 살아 있는 고양이와 죽은 고양이가(죄송!) 같은 비율로 섞여 있을 것이다.
슈뢰딩거는 이 사고실험을 통해 양자역학이 궁극의 이론이 아님을 간접적으로 주장했고, 그 무렵 아인슈타인은 막스 보른에게 다음과 같은 편지를 보냈다. “양자 이론은 많은 사실을 알아냈지만 자연의 비밀에는 근처도 가지 못한 것 같습니다. 어떤 경우이건 나는 신이 주사위 놀음 따위는 하지 않는다고 확신합니다.”
코펜하겐 해석이 옳다면, 파동함수가 붕괴되면서 어떤 결과가 나타날지 미리 예측하기란 원리적으로 불가능하다. 이는 곧 양자역학이 인과율(causality)을 따르지 않고(관측된 곳에서 나타난 결과를 역으로 추적할 수 없음) 결정론적 이론도 아니라는 뜻이다(관측을 통해 얻은 결과가 무작위로 결정되기 때문이다).
‘숨은변수’ 이론
(코펜하겐 해석을 반박하는 차원에서) 양자 세계에 인과율과 결정론을 되살리고 직관적 실체를 부여하는(즉, 관측되지 않은 입자도 위치나 운동량 같은 물리적 속상을 갖게 만드는) 유일한 방법은 모든 입자와 관련되어 있지만 관측자는 결코 알아낼 수 없는 ‘숨은변수(hidden variable)’라는 개념을 도입하는 것이다. * 즉 모든 측정은 확률로 결정되는 것이 아니라 (우리가 아직 모르는 미리 정해진) 숨은 변수에 따라 측정 결과가 정해진다는 것이다.
이 시나리오에서 물리계의 상태는 ‘관측될 수 없는 변수’에 의해 전적으로 결정되며, 이론에서 확률적 요소가 완전히 제거된다. 아인슈타인이 원했던 대로 주사위 놀음을 하는 신이 사라지는 것이다.
하지만 노이만은 숨은변수에 기초한 이론이 양자역학의 모든 결과를 재현할 수 있다는 주장에 매우 회의적이었다. 그는 『양자역학의 수학적 기초』에서 숨은변수 이론이 직면하게 될 문제점을 낱낱이 파헤쳤는데, 대표적인 사례는 다음과 같다.
여러 개의 양자적 입자(예를 들어 수소 원자)로 이루어진 앙상블(ensemble, 여러 입자로 이루어진 계가 취할 수 있는 모든 가능한 배열의 집합)을 대상으로 모종의 관측을 시도한다고 가정해보자. 한 번의 관측이 끝나면 또 하나의 동일한 앙상블에 대하여 이전과 같은 관측을 시도한다.
양자 이론과 수많은 실험 결과에 의하면, 전술한 두 번의 관측은 각기 다른 결과를 낳는다. 충분히 많은 앙상블을 대상으로 동일한 관측을 시도하면 관측 결과는 넓은 범위에 걸쳐 분산될 것이다.
통계적으로 이런 분포를 보이는 입자의 집합을 '분산형 앙상블(despersive ensemble)'이라 한다. 따라서 양자역학에 의하면 모든 앙상블은 분산형이다.
노이만은 ‘숨은변수’가 존재한다면 앙상블은 일반적으로 동종(homogeneous)일 수 없다‘는 것을 증명함으로써(‘불가능성 증명(proof of impossibility)’), 양자역학의 분산형 앙상블이 동종임을 증명했다. 앙상블의 모든 구성 입자들은 외부에서 관측이 실행될 때까지 동일한 양자중첩 상태에 놓여 있다는 것이다. 노이만의 증명은 코펜하겐 해석을 지지하는 물리학자들에게 최고의 희소식이었다.
역사학자 막스 재머(Max Jammer)는 “젊은 천재가 숨은변수 이론을 단호하게 거부했다는 소식이 퍼지자 코펜하겐 학파는 노이만에게 환호를 보냈고, 반대론자들도 그의 통찰력을 인정해주었다”고 했다.
이 무렵 노이만은 1930년에 위그너와 함께 프린스턴 대학교 수학과 교수 오스왈드 베블런(Oswald Veblen)의 초청으로 미국으로 이주하여 편안한 삶을 누리고 있었다.
그레테 헤르만과 존 스튜어트 벨의 양자 이론
노이만의 책이 출간되고 한두 해가 지났을 무렵, 그의 ‘불가능성 증명’은 양자물리학계에서 하나의 복음으로 자리 잡았다. 물리학자 데이비드 머민은 1993년에 발표한 논문에 다음과 같이 적어놓았다. “그동안 수많은 대학원생들이 숨은변수 이론에 매력을 느껴왔다. 그러나 ‘그런 이론이 원리적으로 불가능하다는 것을 1932년에 노이만이 이미 증명했다’는 말을 해주면 미련 없이 포기하곤 했다.”
독일의 여성 수학자이자 철학자인 그레테 헤르만(Grete Hermann)은 노이만의 책이 출간된 후 그의 증명을 철저히 확인한 몇 안 되는 사람 중 하나였다. 그녀의 지도교수는 당시 괴팅겐 대학교 수학과의 유일한 여교수였던 에미 뇌터(Emmy Noether)였다.
몇 년 전, 괴팅겐의 사학과와 언어학과 교수들이 뇌터의 채용을 반대하고 나섰을 때 힐베르트는 “저는 지원자의 성별이 문제가 된다고 생각하지 않습니다. 여긴 대학교잖아요. 목욕탕이 아니란 말입니다!”라고 외쳤다는 전설적인 이야기가 전해진다.
헤르만은 라이프치히를 떠난 직후 양자역학에 관한 장문의 논문을 발표했는데, 그중 상당 부분은 노이만의 불가능성 증명을 비판하는 내용이었다. 그녀는 노이만이 내세운 ‘가산성 가정(additivity postulate)’의 취약점을 지적하면서, 이것 때문에 노이만의 증명이 순환논리에 빠졌다고 주장했다.
벨의 부등식
불가능성 증명에 내재된 한계는 헤르만의 논문이 발표되고 거의 30년이 지난 후에야 조금씩 알려지기 시작했다. ‘벨의 부등식’으로 널리 알려진 아일랜드의 수학자 존 스튜어트 벨(John Stewart Bell, 1928 – 1990)은 “당신이 노이만의 증명을 완전히 이해하는 순간, 그 증명은 곧바로 와해됩니다. 사실 거기엔 아무것도 없어요. 틀린 정도가 아니라 완전히 엉터리입니다!”라고 말했다.
사실 양자역학은 특수상대성이론에 위배되지 않는다. 양자적으로 얽힌 한 쌍의 입자 중 하나의 특성을 측정한다고 해서 그 결과가 다른 입자의 상태에 직접적으로 영향을 주는 것은 아니다. 양자적으로 얽힌 입자를 이용해서 어떤 메시지를 빛보다 빠르게 전송하는 것은 불가능하다.
그러나 벨은 여전히 궁금했다. “국소적(local, 신호가 빛보다 빠르게 전달되지 않는 성질) 숨은변수 이론을 이용해서 양자적으로 얽힌 입자의 상관관계를 설명할 수 있지 않을까? 양자적 얽힘은 존재하지 않고 베르틀만의 양말 서랍만 존재하는 것은 아닐까?”
오스트리아의 물리학자이자 벨의 연구 동료인 라인홀트 베르틀만(Reinhold Bertlmann)은 양쪽 발에 색상이 다른 양말을 신고 다니는 것으로 유명했다. “그의 왼쪽 양말이 분홍색이라면, 오른쪽 양말은 굳이 확인하지 않아도 분홍색이 아니라는 것을 알 수 있다. EPR 역설*도 이와 마찬가지 아닐까?”
* Einstein, Podolsky, Rosen이 코펜하겐 해석을 반박하기 위해 제기한 역설. “(물리)계를 교란하지 않는다는 전제하에서(즉 특수상대성 원리가 유지된다면), 만약 어떤 물리량의 값을 정확히 예측할 수 있다면, 그 양에 대응하는(얽힘 상태에 있는) 실재의 요소는 존재“하기 때문에 양자역학의 ’불확정성 원리‘에 위배되는 역설이 발생하기 때문에 양자역학은 물리적 실재를 포착하는데 불완전하다는 주장이다.
그러던 중 1952년 미국의 물리학자 데이비드 봄(David Bohm)이 두 편의 논문에 걸쳐 “숨은변수 이론으로 양자역학의 모든 결과를 재현할 수 있다”는 놀라운 사실을 증명했다. 데이비드 봄은 슈뢰딩거의 방정식을 기발하게 수정하여 파동함수를 ‘파일럿파(pilot wave)’로 바꿔놓았다.
파일럿파는 양자역학의 법칙에 따라 입자의 길을 직접 유도한다(즉 파동함수가 확률을 나타내는 추상적 양이 아니라, 입자의 경로에 직접 영향을 주는 실체라는 뜻). 그러면 입자에 영향을 주는 모든 물리적 변화는 아무리 먼 곳에서 발생해도 우주 전체에 퍼져 있는 파일럿파를 통해 즉각적으로 전달된다.
벨은 데이비드 봄이 제안했던 ‘EPR 사고실험의 간단한 버전’을 떠올렸다. 봄이 관측하고자 했던 것은 전자나 광자 같은 입자의 양자적 특성 중 하나인 스핀(spin)이다. 벨은 “두 감지기를 특정한 각도로 세팅했을 때 두 입자의 스핀의 상관관계는 양자 이론보다 숨은변수 이론에서 더 약해진다”는 것을 수학적으로 증명했다.
국소적 숨은변수 이론을 가정하면 스핀의 상관관계가 어떤 한계를 넘지 못하는데, 이것을 1964년 수학적으로 표현한 것이 바로 그 유명한 ‘벨의 부등식(Bell’s inequality)’이다. 상관관계가 이 한계를 초과하면 벨의 부등식에 ‘위배되고’, 이는 곧 양자 이론이나 봄의 이론 같은 비국소적(non-local) 이론이 옳다는 것을 의미한다.
한편 벨은 1964년에 영어로 번역된 노이만의 책을 읽으며, 헤르만이 오래전에 불가능성 증명에서 발견했던 오류를 똑같이 발견하여 1966년에 논문으로 발표했다. 이 논문은 세계 최고의 학술지 중 하나인 《현대물리학논평(Reviews of Modern Physics)》에 게재되어 벨도 학계에서 알아주는 유명 인사가 되었다.
지금도 양자물리학자들은 노이만의 ‘불가능성 증명’을 놓고 열띤 논쟁을 벌이는 중이다. 데이비드 머민은 “노이만이 오류를 범했고, 벨과 봄은 그것을 확실하게 잡아냈다”고 했고, 다른 학자들은 “원래 노이만의 의도는 모든 가능한 숨은변수를 쓸어버리는 것이 아니라, 그중 일부만 배제시키는 것”이라고 주장했다.
그러나 이들은 다음의 사실에 기본적으로 동의하는 입장이다. “노이만이 증명하고자 했던 것은 숨은변수 이론이 자신(노이만)이 구축했던 수학적 구조를 가질 수 없다는 것이었다. 노이만의 수학 구조를 만족하지 않는 이론은 힐베르트 공간 이론이 될 수 없다.” 이것은 분명한 사실이다.
극한이론까지 간 양자역학
‘다중세계 해석(Many World interpretation)’의 창시자는 프린스턴 대학교 대학원에서 수학을 전공한 젊은 이론가 휴 에버렛 3세(Hugh Everett III)이다. 우연히도 그는 대학원에 입학한 직후부터 게임이론을 공부하면서 한 해를 보냈고, 그 후 양자역학을 수강하다가 1954년에 위그너에게 수리물리학을 배웠다.
1950년대에 휴 에버렛과 데이비드 봄이 코펜하겐 해석의 문제점을 지적한 후로 다양한 해석이 봇물 터지듯 쏟아져 나왔으나, 여기서 제기된 질문들은 더 이상 순수 학문적 이슈가 아니었다. 수학자와 물리학자의 전유물이었던 양자역학이 섬유광학과 마이크로칩 등 첨단 기술의 근간으로 떠오른 것이다.
가장 최근에 대두된 기술로는 양자컴퓨터(quantum computer)를 꼽을 수 있다. 양자컴퓨팅을 위해서는 '상태의 중첩'으로 이루어진 큐비트를 수백 개가 얽히도록 만들고 그 얽힌 상태를 오래 유지해야 하는 지란한 난관이 남아 있다. 물리학자들은 지금도 이런 상태를 구현하기 위해 양자역학을 한계까지 밀어붙이고 있다.
양자역학에 대한 노이만의 기여
노이만은 남은 생애 동안 양자역학의 새로운 해석을 수시로 접하면서 항상 열린 마음을 유지했다. 그의 대표작 『양자역학의 수학적 기초』에는 이런 구절도 있다. “양자역학이 실험 결과와 정확하게 일치한다고 해서 경험적으로 증명되었다고 단정 지을 수는 없다. 이런 것은 그저 경험의 요약일 뿐이다.”
“우리는 인류가 장구한 세월 동안 간직해온 고색창연한 사고방식을 고수하고 있다. 그러나 이 사고방식은 논리적 필연성에서 탄생한 것이 아니기 때문에(그렇지 않다면 통계 이론은 존재하지 않았을 것이다) 아무런 선입견 없이 문제 속으로 뛰어든 사람은 과거의 사고방식을 고수할 이유가 없다. 이런 상황에서 입증되지도 않은 아이디어를 살리기 위해 타당한 물리학 이론을 포기하는 것이 과연 바람직한 일인가?”
양자역학에 기여한 공로로 1963년에 노벨 물리학상을 받은 위그너는 “이론을 제대로 이해한 사람은 나의 오랜 친구인 노이만뿐이었다”고 했다. 디랙이 양자역학을 다루는 도구를 열심히 발명하는 동안 노이만은 양자역학과 정면 대결을 펼쳤다.
재머는 이론물리학을 해석하는 분야에서 가장 중요한 수학 체계를 구축한 사람으로 주저 없이 노이만을 꼽았다. 닥치고 계산하는 것만으로 만족할 수 없는 물리학자들에게 노이만의 『양자역학의 수학적 기초』는 100년이 지난 지금도 여전히 필독서로 남아 있다.
또한 노이만은 양자 이론에 필요한 수학을 개발하다가 힐베르트 공간에서 적용되는 연산자에 완전히 매료되었다. 연산자끼리는 덧셈과 뺄셈, 그리고 곱셈이 가능하기 때문에, 이들은 하나의 대수 체계를 이룬다. 그리고 비슷한 대수적 관계로 연결된 연산자의 집합을 ‘환(ring)’이라 한다.
노이만은 연산자 대수의 특성을 연구하여 새로 발견한 내용을 일곱 편의 논문으로 발표했다. 모두 합해서 500페이지가 넘는 이 논문들은 그가 순수수학에 남긴 가장 큰 업적으로 꼽힌다. 그가 발견한 세 종류의 기약형(irreducible type, 더 이상 간단하게 줄일 수 없는 형태) 연산자 환을 ‘팩터(factor)’라고 한다.
I형 팩터(type I factor)는 n차원 공간에 존재한다. 여기서 n은 0부터 무한대 사이에 있는 임의의 정수이며, 노이만 버전의 양자역학은 이런 종류의 무한차원 힐베르트 공간에서 서술된다.
II형 팩터는 정수 차원(1차원, 2차원… 등)의 힐베르트 공간에 한정되지 않고 1/2차원이나 π차원까지 포함한다. 그리고 III형 팩터는 전술한 두 종류에 속하지 않는 팩터이다. 이 세 가지 팩터가 모여서 노이만의 대수 체계를 형성한다.
그 후 다른 사람들도 노이만의 연산자 이론 바다에 배를 띄우고 몇 개의 섬과 반도를 탐험하다가 엄청난 보물을 발견하였다. 노이만 대수의 II형 팩터에서 파생된 매듭 이론(knot theory)을 연구하여 1990년에 필즈메달을 수상한 뉴질랜드의 수학자 본 존스(Vaughan Frederick Randal Jones)가 그 대표적 사례이다.
물리학자 카를로 로벨리(Carlo Rovelli)와 수학자 알랭 콘(Alain Connes)은 ‘시간 문제’를 풀기 위해 III형 팩터를 도입했다. 우리는 시간이 오직 미래로만 흐르는 것을 당연하게 여기고 있지만, 로벨리와 콘은 양자 이론의 핵심에 존재하는 비가환성이 시간의 흐름에 방향성을 부여한다고 추측했다.
나치주의 그리고 독일 과학의 추락
1930년, 노이만과 위그너가 프린스턴 대학교의 초청을 받고 대서양을 건넌 직후부터 독일 정계에는 암울한 그림자가 드리우기 시작했다. 1933년 1월 아돌프 히틀러가 수상으로 취임하고 3월 수권법을 통과시켜 바이마르 헌법을 사문화시키고 독일의 정권을 완전히 장악했다.
그 직후에 히틀러는 ‘직업공무원법’을 제정하여 유태인과 공산주의 추종자들을 모든 직장에서 쫓아냈는데, 독일 공무원 중 이 조치로 일자리를 잃은 사람은 5퍼센트에 불과했지만 각 대학교의 물리학과와 수학과는 문자 그대로 초토화되었다(당시 독일 대학교의 교수는 정부에서 임명했고 보수도 국고에서 지급하고 있었다).
물리학자의 15퍼센트, 수학자의 18.7퍼센트가 졸지에 대학에서 쫓겨났고, 개중에는 하룻밤 사이에 교수의 절반이 해고된 대학도 있었다. 이때 쫓겨난 학자들 중 20명은 이미 노벨상을 받았거나 앞으로 받을 사람들이었고, 이들 중 16명이 유태인이었다.
괴팅겐에서는 보른과 뇌터, 그리고 힐베르트의 실질적 대리인이었던 리하르트 쿠란트(Richard Courant, 1888~1972, 1933년 독일을 탈출해 케임브리지로 갔다가 1936년부터 뉴욕대학 교수로 옮김)가 학교를 떠났다. 하이젠베르크는 독일에 남았지만, 과거에 아인슈타인의 이론을 지지했다는 이유로 ‘하얀 유태인’이라는 꼬리표를 달고 살아야 했다.
평소 쇼비니즘을 경멸했던 힐베르트는 허탈한 심정으로 사태를 관망하는 수밖에 없었다. 힐베르트는 전쟁이 한창 진행 중이던 1943년 2월에 노환으로 세상을 떠났다.
이것으로 독일 과학의 전성기는 막을 내렸고, 미국은 유럽에서 건너온 인재를 대거 영입하여 새로운 도약을 준비하고 있었다. 얼마 후 노이만은 괴팅겐의 동료들과 재회의 기쁨을 나누게 되는데, 그 장소는 대학교나 학술 회의장이 아니라 역사상 최고로 강력한 폭탄을 만드는 현장이었다.
4장 맨해튼 프로젝트와 핵전쟁
인류의 멸망을 예고하는 묵시록
보어: 이론물리학으로 사람을 죽이는 방법은 아직 아무도 개발하지 못했잖아?
- 마이클 프레인, 코펜하겐, 1998
프린스턴 고등연구소
히틀러가 독일 수상으로 부임하기 이틀 전인 1933년 1월 28일, 노이만을 포함한 프린스턴의 수학자들은 오스왈드 베블런(Oswald Veblen, 1880-1960)의 덕을 톡톡히 보게 된다. 베블런은 오래전부터 “강의에 얽매이지 않고 오직 연구에만 전념할 수 있는” 수학 전문 연구소를 꿈꿔왔다.
그리고 베블런과 뜻을 같이 했던 고등교육 전문가 에이브러햄 플렉스너(Abraham Flexner)는 록펠러 재단으로부터 거액의 후원금을 유치하여 파인홀(Fine Hall)을 짓는 데 결정적 역할을 했다.
또한 플렉스너는 독일계 유태인 소유의 밤베르거(Bamberger) 백화점 체인을 R.H. 메이시앤컴퍼니에 매각하면서 발생한 수익의 일부를 고등교육 육성기금으로 유치하는데 성공했다.
고등연구소(Institute for Advanced Study, IAS)는 처음 6년 동안 프린스턴의 파인홀에 입주하여 순조롭게 운영되었으며, 플렉스너는 1930년 5월에 현재 가치로 거의 40만 달러에 가까운 연봉을 받으면서 고등연구소의 초대 소장으로 부임했다.
그 후 1932년에 베블런을 첫 번째 교수로 임용했고, 당대 최고의 물리학자 아인슈타인을 끈질기게 설득하여 1933년에 프린스턴으로 영입하는 데 성공했다. 물론 이들의 헤드헌팅 명단에는 노이만과 헤르만 바일, 그리고 제임스 알렉산더(James Alexander)도 들어 있었다.
이 시기에 노이만이 이룬 가장 큰 업적은 에르고딕 가설(ergodic hypo-thesis)을 증명한 것이었다. 에르고딕(ergodic)은 ‘일’을 뜻하는 그리스어 ‘ergon(에르곤)’과 ‘길’을 뜻하는 ‘odos(오도스)’의 합성어로, 오스트리아의 물리학자 루트비히 볼츠만(Ludwig Boltzman)이 1870년대에 처음으로 도입한 개념이다.
볼츠만은 기체를 구성하는 입자(원자 또는 분자)의 운동으로부터 기체의 특성(온도, 압력 등)을 알아냈다. 이것을 기체운동이론(kinetic theory of gas)이라 하는데, 이 이론에서 그는 기체가 에르고딕 가설을 만족한다고 가정했다.
예를 들어 풍선 내부의 압력을 긴 시간에 걸쳐 측정하건, 임의의 특정한 순간에 풍선 내부의 원자들이 내벽에 가하는 압력을 모두 더하건, 그 결과는 항상 같다. 볼츠만은 이 가설을 증명하지 못했고, 노이만은 1930년대에 증명에 성공했다*.
* 이후 하버드 대학교의 수학자인 조지 버코프(George Birkhoff)가 노이만의 논리에 기초하여 더욱 확고한 수학 정리를 만들어 발표하였다.
미국 시민이 된 노이만
1930년대에 노이만은 방황하는 모습을 보였는데, 그 이유는 이마도 전쟁이 다가오고 있음을 예감했기 때문일 것이다. 그가 1935년에 헝가리의 수학자에게 보낸 편지에는 다음과 같이 적혀 있었다. “앞으로 10년 안에 유럽에 큰 전쟁이 터질 것입니다. 그때 영국이 위기에 처하면 미국까지 참전할지도 모릅니다.”
전쟁 이외에도 노이만의 순수수학 연구를 방해했던 요인이 여러 가지 있었는데, 그중 몇 개를 소개하면 다음과 같다. 우선 1935년에 그는 아버지가 되었다. 그해 3월 6일에 외동딸 마리나(Marina)가 태어났고, 노이만은 더 이상 호리호리한 청년이 아니었다.
이 즈음 노이만은 가족과 함께 보내는 시간이 거의 없었는데, 마리나는 “아버지는 어머니를 사랑했지만 그분이 진정으로 사랑했던 대상은 사람이 아니라 ‘머리로 생각하기’였습니다. 모든 천재들이 그렇듯이, 아버지도 주변 사람들의 감정을 헤아리는 능력이 많이 부족했어요.”라고 말했다.
1937년 아내 마리에트가 결별을 선언했을 때에도 노이만은 원인을 몰라 어리둥절할 뿐이었다. 노이만은 마리에트가 자신을 떠난 이유를 평생 이해하지 못했다고 한다. 아내가 어린 딸을 데리고 떠난 그해에 노이만은 미국 시민이 되었고, 우울한 마음을 달래려고 그랬는지 미국의 전쟁 준비를 더욱 적극적으로 돕기 시작했다.
노이만을 프린스턴으로 불러들였던 오스왈드 베블런은 제1차 세계대전이 진행되는 동안 미국 육군 병기국 소속 대위로 복무하다가 메릴랜드주의 애버딘 무기실험장에 새로 건설된 탄도학연구소(Ballistics Research Laboratory, BRL)에 기술감독관으로 파견되었고, 그곳에서 소령으로 진급했다.
노이만은 1937년 베블런의 요청에 따라 애버딘 무기실험장의 시간제 자문위원으로 위촉되었는데, 좀 더 큰 임무를 맡기 위해 병기국의 대위로 지원했지만 군사 규율 과목에서 계속 낙제점을 받아 문턱을 넘지 못했다.
그러다가 1938년 9월에 두 번째 아내인 클라라 댄(Klára Dán)과 결혼식을 올리기 위해 유럽에 다녀오느라 마지막 시험을 1939년 1월로 늦추었다가 결국 합격했지만 나이 제한을 2주 초과했다는 이유로 입대를 거절당하기도 하였다.
두 번째 결혼
가족과 친구들에게 ‘클라리(Klári)’로 불렸던 클라라 댄은 1930년대 초에 몬테카를로의 리비에라에서 노이만을 처음 알게 되었다. 당시 그녀는 상습적 도박꾼인 남편 페렝크 엥겔(Ferenc Engel)과 함께 카지노를 방문했는데, 안으로 들어서자마자 처음으로 마주친 사람이 바로 노이만이었다.
클라라 댄은 노이만처럼 부다페스트에 웅장한 저택을 보유한 부잣집 딸이었다. 클라라와 노이만은 1937년 여름에 부다페스트에서 재회했다. 당시 그녀는 자신보다 열여덟 살 많은 은행가 안도르 라포크와 재혼한 상태였고, 노이만의 결혼 생활은 끝을 향해 나아가는 중이었다(결국 노이만은 한 달 후 마리에트와 이혼했다).
노이만은 8월 17일에 부다페스트를 떠났지만, 두 사람의 대화는 편지와 전보를 통해 계속되었다. “우리가 천생연분이라는 사실이 점점 분명해지더군요. 저는 친절하고 이해심 많은 남편에게 솔직하게 털어놓았어요. 저에게 조니(노이만)의 머리를 대신할 수 있는 사람은 이 세상 어디에도 없다고 말이죠.”
클라라의 남편운 별다른 반감없이 이혼에 동의했지만 이혼을 위한 법정 심리가 계속 연기되고 헝가리 당국은 노이만의 이혼을 인정하지 않았다. 1938년 9월 30일 뮌헨협정에서 프랑스와 영국은 나치독일이 체코슬로바키아의 주데텐란트를 합병하는 데 동의했고, 이 소식을 전해 들은 노이만은 부다페스트에 있는 클라라를 미국으로 데려가기 위해 바람처럼 내달렸다.
클라라의 이혼 재판은 10월에 끝났고, 두 사람은 2주 후 결혼식을 올리고 다음 달에 미국행 배에 올랐다. 이후 클라라는 노이만을 깊이 사랑했지만, 그에게 항상 위안을 얻기는 어려웠다. 노이만은 가끔씩 아주 멀게 느껴지기도 하고, 아내의 감정에 냉담한 사람처럼 보이기도 했다.
"아주 작은 폭탄 하나로 모든게 사라지게 생겼군"
베블런은 노이만이 입대 시험에 낙방했다는 소식을 전해 듣고 1940년 9월에 그를 다시 불러들여서 탄도학연구소의 과학자문위원으로 채용했다. 그리고 그곳에서 실력을 발휘하자 곧바로 다른 기관으로부터 스카우트 제안이 쇄도하기 시작했다.
이 시기에 미국의 과학 정책을 진두지휘한 사람은 과학연구개발국의 장관인 버니바 부시(Vannevar Bush)였다. 그는 주요 현안을 대통령에게 직접 보고하면서 과학자 및 공학자들의 연구를 전폭적으로 지원했고, 그 덕분에 과학연구개발국에서는 레이더와 유도미사일, 근접신관(proximity fuse) 등 중요한 무기를 개발할 수 있었다. 그러나 뭐니 뭐니 해도 정부에서 가장 열성적으로 지원한 곳은 원자폭탄을 개발하는 부서였다.
1939년 1월 16일, “우라늄Uranium(U)을 쪼갤 수 있다”는 초특급 정보가 배를 타고 미국에 전달되었다. 독일의 화학자 오토 한(Otto Hahn, 1944년 노벨 화학상 수상)과 그의 조수인 프리츠 슈트라스만(Fritz Strassmann)이 우라늄 원자에 중성자를 빠르게 충돌시켰을 때 우라늄의 절반보다 작은 바륨으로 쪼개지면서 엄청난 폭발이 일어나는 현상을 발견한 것이다.
당시에는 그런 형태의 방사성붕괴가 발견된 적이 없었기 때문에 화학자들은 어안이 벙벙해졌다. 이 반응의 원리를 알아낸 사람은 오토 한의 옛 동료인 여성 물리학자 리제 마이트너(Lise Meitner)와 그녀의 조카 오토 프리슈(Otto Frisch)였다. 이 핵반응은 훗날 ‘핵분열(nuclear fission)’이라는 이름으로 불리게 된다.
1939년 새해 첫날, 프리슈는 미국행을 하루 앞둔 보어에게 이 내용을 전달하면서 자신의 논문이 학술지에 실릴 때까지 비밀로 해달라고 부탁했다.
그러나 보어는 함께 승선한 동료 물리학자 레온 로젠펠트(Léon Rosenfeld)에게 금단의 지식을 털어놓았고, 보어와 프리슈 사이의 약속을 전혀 몰랐던 로젠펠트는 즉시 기차를 타고 프린스턴으로 달려가서 놀라운 소식을 전했고, 핵분열에 관한 소문은 거의 광속으로 퍼져나갔다.
컬럼비아 대학교의 엔리코 페르미(Enrico Fermi, 1901~1954, 1938년 노벨 물리학상 수상)도 이 소식을 들었다. 그는 몇 달 전 스톡홀름에서 노벨상을 받은 직후 유태인 아내 라우라 카폰(Laura Capon)과 함께 미국으로 건너온 참이었는데, 프리슈의 이론을 듣는 즉시 앞으로 벌어질 일을 예측할 수 있었다.
그는 자리에서 일어나 한 손으로 책상을 짚은 채 창밖으로 맨해튼을 바라보며 혼자 중얼거렸다. “아주 작은 폭탄 하나로 모든 게 사라지게 생겼군….” 캘리포니아 대학교의 로버트 오펜하이머도 모든 상황을 파악했다.
노이만은 1940년대 초까지 폭발물과 탄도학 연구에 몰두하면서 어느새 폭탄 전문가가 되어 있었다. 특히 폭탄의 외형과 파괴력-파괴 방향의 상호관계에 대해서는 자타가 공인하는 일인자였다. 그러나 그의 머릿속에는 전쟁과 전혀 무관한 분야도 여전히 생생하게 살아 있었다.
1942년에 노이만은 인도의 천문학자 수브라마니안 찬드라세카르(Subrahmanyan Chandrasekhar, 1983년 노벨 물리학상 수상 그도 나중에 탄도학연구소에 합류했다)와 함께 ‘움직이는 별 때문에 나타나는 중력장의 요동’을 분석하여 공동 논문을 집필했는데, 이 논문은 지금도 성단(stellar cluster)의 운동을 이해하는 데 중요한 자료로 남아 있다.
히틀러의 군대가 폴란드를 휩쓸던 1939년 9월까지만 해도, 핵분열에 기초한 신무기가 지금 막 시작된 전쟁의 판도를 바꿀 수 있다고 생각한 사람은 단 한 명도 없었다. 그러나 1941년 6월에 영국 정부의 위탁을 받은 일단의 과학자들이 충격적인 보고서를 제출하면서 분위기가 완전히 바뀌었다.
조지 톰슨(George P. Thomson, 1937년 노벨 물리학상 수상자. 그의 부친인 J. J. 톰슨도 1906년에 노벨 물리학상을 받았다)이 이끄는 MAUD 위원회가 “1943년 초까지 원자폭탄을 만들 수 있다”고 선언한 것이다.
MAUD 보고서에 잔뜩 흥분한 윈스턴 처칠(Winston Churchill)은 그 즉시 핵무기 개발 프로젝트에 착수하기로 결정했고, 한동안 개점 휴업 상태였던 미국의 폭탄 개발 프로그램도 그해 12월부터 바쁘게 돌아가기 시작했다.
과학연구개발국에서 핵폭탄 개발을 담당했던 부서는 훗날 그 유명한 맨해튼 프로젝트의 주역으로 활약하게 된다. ‘프로젝트 Y’라는 암호명으로 불린 원자폭탄 개발 계획에는 미화 20억 달러(현재 가치로 200억 달러 이상)가 투입되었으며, 가장 바빴던 시기에는 고용 인원이 무려 10만 명에 달했다.
1942년 9월에 프로젝트의 수장으로 임명된 46세의 육군 소속 엔지니어 레슬리 그로브스(Leslie Groves)는 바로 다음 달에 일급기밀 연구소를 이끌 책임자로 로버트 오펜하이머를 영입했다.
그로브스와 오펜하이머는 프로젝트 Y가 도시에서 멀리 떨어진 황량한 곳에서 진행되어야 한다는 점에 동의하고, 뉴멕시코주의 산타페로부터 65킬로미터 거리에 있는 로스앨러모스를 선택했다. 황량한 고원에 선인장과 작은 소나무가 겹겹이 에워싸고 있어서 비밀 임무를 수행하기에는 더없이 좋은 장소였다.
그 후로 1943년 중반까지 로스앨러모스에서는 ‘포신형 무기(gun-type weapon)’ 개발 계획이 순조롭게 진행되었다. 핵분열이 자발적으로 일어나는 물질에서 ‘총알(중성자)’이 발사되어 다른 물질을 때리면 핵연쇄반응이 일어나 폭탄이 터지는 원리인데, 구조가 간단하면서도 막강한 폭발력을 발휘하는 것으로 확인되었다.
한편, 1940년에 미국의 화학자 글렌 시보그(Glenn Seaborg, 1951년 노벨 화학상 수상)가 플루토늄(Plutonium, Pu)이라는 새로운 원소를 발견했는데, 우라늄처럼 연쇄반응을 일으키면서 우라늄과 달리 대량 정제가 가능하다는 장점을 갖고 있었다.
로스앨러모스에 모인 과학자들은 우라늄으로 만든 포신형 무기 ‘리틀보이(Little Boy)’처럼 플루토늄으로도 비슷한 무기(암호명 ‘신맨Thin Man’)를 만들 수 있다고 생각했다.
그러나 오펜하이머는 포신형 무기의 메커니즘으로 2개의 플루토늄을 충분히 빠르게 결합시킬 수 있을지 확신이 서지 않았다. 폭탄용으로 생산한 플루토늄의 붕괴 속도가 우라늄보다 빠르면 임계질량에 도달하기 전에 총알과 표적이 녹아내려서 폭발이 일어나지 않을 수도 있기 때문이다.
그래서 오펜하이머는 미국의 실험물리학자 세스 네더마이어(Seth Neddermeyer, 1982년 엔리코 페르미상 수상)가 제안한 방법으로 플루토늄의 임계질량을 확보한다는 2차 계획을 수립했다. 하지만 그 후로 여러 차례 우여곡절을 겪은 후, 1943년에 연구 지휘팀은 결국 내파식 설계를 포기하기로 결정했다.
오펜하이머는 로스앨러모스에서 적절한 시기에 적절한 결정을 내리는 사람으로 유명했는데, 내파 설계를 폐기한 직후에 그가 내린 결정은 그야말로 ‘신의 한 수’였다. 그는 1943년 7월에 노이만에게 한 통의 편지를 보냈고, 노이만은 흔쾌히 수락했다.
“당신의 도움이 절실하게 필요합니다. 지금 이곳에서는 많은 이론가들이 최선을 다하고 있지만, 당신의 통찰력으로 우리가 직면한 문제를 바라본다면 새로운 해결책이 나오리라 확신합니다. 가능하다면 임시직이 아닌 정규직으로 모시고 싶습니다. 저의 설명을 백 번 듣는 것보다 한 번 오셔서 보기만 하면 제 말을 금방 이해하실 겁니다. 부디 긍정적으로 생각해주시기 바랍니다.”
내파형 폭탄 개발에 뛰어들다
노이만은 9월에 황량한 고원에 도착했다. 포신형 무기 개발 프로젝트에 참여했던 수리물리학자 찰스 크리치필드(Charles Critchfield)는 “노이만의 아이디어가 모두를 일깨웠다”고 했다. 노이만이 제일 먼저 “네더마이어의 내파 실험으로는 폭파 장치가 실제로 어떻게 작동하는지 알 수 없다”는 점을 지적하였다.
노이만은 문제가 생길 때마다 에드워드 텔러에게 자문을 구했다. 텔러는 3월에 합류한 헝가리 출신 물리학자인데, 여러 차례 실험을 거친 후 “노이만의 제안대로 설계를 변경하면 내파형 폭탄은 포신형 폭탄보다 효율적”이라는 결론에 도달했다. 적은 양의 플루토늄으로 동일한 파괴력을 발휘할 수 있게 된 것이다.
내파형 폭탄의 장점을 전해 들은 그로브스는 과학자들이 ‘안전한’ 포신형 무기 개발에 집중하도록 독려했고, 오펜하이머는 우크라이나 태생의 미국인 화학자 조지 키스티야코프스키(George Kistiakowsky)를 영입하여 수학자들이 제안한 장치를 만드는 데 필요한 ‘폭파 렌즈(explosive lens)’의 연구를 의뢰했다.
노이만은 연구 시간 중 거의 3분의 1을 폭탄 개발에 할애했다. 로스앨러모스에는 스타니슬라프 울람(Stanislaw Ulam)을 포함하여 헝가리 출신 과학자가 유난히 많았는데, 이것은 결코 우연이 아니었다. 노이만이 프로젝트에 참여한 직후부터 동료 수학자들을 적극적으로 영입했기 때문이다.
"나는 죽음이요, 이 세상의 파괴자이니..."
1944년 7월, 노이만을 비롯한 일단의 과학자들의 수많은 계산과 실험을 거친 끝에 드디어 내파 장치에 부착될 폭파 렌즈의 형태가 결정되었다. 폭파 렌즈의 형태는 이론적으로 결정되었지만, 그것을 요구대로 정확하게 만들기란 결코 쉬운 일이 아니었다.
우여곡절을 겪다가 1945년 2월에 드디어 내파형 폭탄의 청사진이 완성되었다. 연구원들은 곧바로 첫 번째 내파 장치 조립에 착수했다. 그런데 조립 도중 일부 렌즈에서 균열과 거품이 발견되는 바람에 또다시 발목이 잡혔고, 연구팀은 렌즈에 작은 구멍을 뚫은 후, 거품 내부를 고성능 액체 폭탄으로 채워 넣었다.
렌즈는 총 32개로 구성되어 있다. 고성능 폭발물이 주입된 20개의 육각형 블록과 12개의 오각형 블록을 정교하게 이어 붙이면 일부가 잘려나간 20면체가 되는데, 언뜻 보면 거대한 축구공처럼 생겼다.
첫 번째 층은 ‘푸셔(pusher)’라 불리는 11.5센티미터 두께의 알루미늄층으로, 충격파 뒤에 나타나는 급격한 압력 저하를 방지하여 플루토늄에 강한 압력이 가해지도록 설계되었다.
두 번째는 ‘반사재(tamper)’라 불리는 천연 우라늄층인데(정제되지 않은 우라늄으로, 주성분은 핵분열이 자발적으로 일어나지 않는 동위원소인 우라늄-238이다), 폭탄이 터진 후에도 연쇄반응이 몇 분의 1초 동안 더 일어날 수 있도록 중심부에 있는 플루토늄(코어)의 팽창을 지연시키는 역할을 한다.
반사재에 구멍을 뚫어서 무게 6.2킬로그램, 지름 9센티미터짜리 구형 플루토늄 덩어리(사과와 비슷한 크기)를 장치의 가장 깊숙한 곳에 삽입한다. 처음에 이 덩어리는 임계질량보다 조금 작지만, 충격파가 발생하면 강하게 압축되면서 임계질량에 도달하도록 조절되어 있다.
골프공 절반만 한 크기의 발화장치(initiator)는 초정밀 공학이 낳은 최고의 걸작이다. 여기 사용된 폴로늄 동위원소 Po-210에서 알파입자가 방출되어 베릴륨을 때리면 다량의 중성자가 쏟아져 나온다. 내파에 의해 충격파가 발생하면 발화장치가 부서지면서 베릴륨 구껍질 사이에 끼어 있던 폴로늄이 퍼져나가기 시작한다.
세계 최초의 핵무기 발파 계획이 막바지를 향해 치닫고 있었다. ‘트리니티Trinity’라는 암호명이 할당된 이 역사적 실험은 미국 대통령 트루먼과 영국의 처칠, 그리고 소련의 지도자 이오시프 스탈린(Iosif Stalin)이 포츠담에서 만나기로 한 1945년 7월 16일(월요일)에 실행하기로 정해졌다.
1945년 7월 13일, 자정이 조금 넘은 시각에 트럭에 실린 가젯이 로스앨러모스를 떠났다. 그리고 바로 그날 오후에 플루토늄 알갱이와 베릴륨-폴로늄 발화장치가 폭탄 내부에 삽입되었다. 폭탄은 공중 폭발의 효과를 확인하기 위해 높이 90미터짜리 급조된 탑 꼭대기에 설치되었다.
일출 직전인 오전 5시 29분, S-10000 벙커에서 출발한 전기펄스가 9킬로미터 거리에 설치된 32개의 폭파 렌즈를 점화시켰고, 이때 발생한 충격파가 정교하게 배열된 폭발물 층을 지나 순식간에 하나의 구형파로 합쳐졌다. 폭발의 충격으로 플루토늄 코어가 원래 크기의 절반으로 압축되면서 충격파가 중심부에 도달했고, 발화 장치가 작동하면서 폴로늄과 베릴륨이 섞이기 시작했다.
그 후 10나노초 동안 9~10개의 중성자가 방출되었고(이 정도면 충분하다), 약 1킬로그램의 액화 플루토늄과 우라늄 반사체의 일부가 핵분열을 일으키기 시작했다. 이 과정에서 1그램의 물질이 순수한 에너지로 전환되는데, 이 정도면 주변의 모든 것을 증발시키기에 충분하다.
나중에 확인한 결과, 트리니티 실험의 파괴력은 TNT 2만~2만 2,000톤에 달하는 것으로 판명되었다. 오펜하이머는 갑자기 시인이 된 듯, 고대 힌두고 경전 『바가바드기타(Bhagavad Gita)』의 한 구절을 조용히 읊기 시작했다. “나는 죽음이요, 이 세상의 파괴자이니…”
그러자 옆에 있던 베인브리지(Kenneth Tompkins Bainbridge, 1904~1996)가 마무리를 지었다. “… 그리하여 우리 모두는 세상에 둘도 없는 망나니가 되었다.(Now we are all sons of bitches)”
'인류의 멸망을 예견하는 묵시록의 첫 장'
트루먼은 포츠담회의 석상에서 소련의 태평양전쟁 참전이 미국에 별 도움이 되지 않는다는 것을 빠르게 알아차렸다. 트리니티 실험 성공 소식을 보고받은 그는 잠시 동안 머릿속이 복잡해졌다. 이 자리에서 굳이 폭탄 이야기를 꺼내야 할까? 미국이 원자폭탄을 개발했다고 선언하면 소련은 일본을 침공하겠다고 나서지 않을까?
트루먼은 결단을 내린 듯 스탈린 곁으로 주뼛주뼛 걸어가더니 조용히 입을 열었다. “우리가 전례 없이 강력한 폭탄을 손에 넣었소.” 스탈린은 눈썹 하나 까딱하지 않고 차분하게 말했다. “축하하오. 부디 좋은 곳에 사용하시오.” 사실 스탈린은 맨해튼 프로젝트에 파견된 소련 스파이를 통해 이미 모든 내용을 알고 있었다.
몇 가지 증거에 의하면 독일은 이미 1943년 3월부터 미국의 핵폭탄 공격 대상에서 제외되어 있었다. 정책 입안자들은 독일에 투하한 핵폭탄이 불발되었을 경우, 독일의 과학자들이 그것을 분해하여 그들만의 폭탄을 만들 수도 있다며 폭탄 투하를 반대해왔다.
어떤 이유이건 간에, 맨해튼 프로젝트에 차출된 비-미국 출신 과학자들에게 “여기서 만든 핵폭탄은 독일이 아니라 일본에 떨어질 것”이라고 미리 통보했다면, 그들은 도중에 그만두거나 애초부터 합류하지 않았을 것이다.
노이만에게 양심의 가책 같은 것은 먼 나라 이야기였다. 헝가리에서 벨라 쿤의 횡포에 시달리고 독일에서 나치의 폭정을 목격한 그는 전체주의 정권이 얼마나 위험한지 누구보다 잘 알고 있었다.
“독일이 항복한 후로 세계 평화를 위협하는 가장 큰 요인은 스탈린이 이끄는 소련이다. 그런 적을 견제하려면 핵폭탄을 하루라도 빨리 만들어서 확실한 경고를 날려야 한다. 그렇지 않으면 제2차 세계대전은 소련이 일본을 점령하면서 끝날 것이고, 스탈린은 태평양에서 확고한 입지를 굳히게 된다.”
그로브스는 위원회를 구성하여 2개의 폭탄을 투하할 후보지를 물색했다. 다소 의외인 것은 그로브스와 오펜하이머가 수학자인 노이만을 패널로 영입했다는 점이다. 굳이 이유를 짐작해보자면, 감정적으로 흐르기 쉬운 사안에 노이만의 냉철하고 과학적인 관점을 투영하여 좀 더 현실적인 결론을 내리려는 시도였을 것이다.
노이만이 최종적으로 선택한 곳은 교토, 히로시마, 요코하마, 고쿠라 무기고였는데, 이것은 나중에 위원회가 내리게 될 결정과 정확하게 일치했다. 그런데 과거에 교토로 신혼여행을 다녀왔던 스팀슨이 “1,100년 동안 일본의 수도였고 지금도 문화의 중심지인 교토만은 절대로 폭격하면 안 된다”며 고집을 부리는 바람에, 교토 대신 나가사키가 후보 명단에 오르게 되었다.
1945년 8월 6일, 티니안섬에서 미 공군의 B-29 폭격기 ‘에놀라 게이(Enola Gay)’가 리틀보이를 싣고 이륙하여 히로시마로 향했다. 히로시마에 투하된 리틀보이는 TNT 1만 7,000톤의 위력을 발휘하여 7만 명의 목숨을 한순간에 날려버렸고, 그들 중 대부분은 민간인이었다.
그로부터 3일 후, 에놀라 게이가 다시 이륙했다. 이번에 주어진 임무는 핵폭탄 투하가 아니라 팻맨을 탑재한 또 한 대의 B-29 폭격기 ‘복스카(Bockscar)’를 위해 기상 정찰을 수행하는 것이었다. 당시 고쿠라는 전날 폭격 당한 야하타에서 피어 오른 연기로 시야가 좋지 않아 나가사키로 결정되었다.
그러나 나가사키에 도착한 후 복스카의 폭격수는 짙게 낀 구름 위를 선회하며 목표물을 찾다 보니 어느새 연료 게이지가 위험 수위에 도달했고, 그러던 중 원래 폭격 지점에서 북으로 약 3킬로미터 떨어진 지점에서 갑자기 구름이 걷히며 계곡지대가 시야에 들어 왔고, 폭격수는 TNT 2,100톤급 팻맨을 투하했다.
이 폭탄은 약 500미터 상공에서 폭발했는데, 도심과 폭발 지점 중간에 있는 언덕이 보호막 역할을 해준 덕분에 피해가 줄긴 했지만 그래도 사망자 수는 6만~8만 명에 달했다.
그로부터 36년이 지난 후, 일본의 과학자와 의사들은 히로시마와 나가사키가 입은 피해 정도를 뒤늦게나마 분석했는데, 그들이 제출한 보고서는 다음과 같은 문장으로 마무리된다. “두 도시에 닥친 비극은 인류의 멸망을 예견하는 묵시록의 첫 장章이었다.”
미국과 소련의 무기 개발 경쟁
1946년 7월, 노이만은 마셜제도의 목가적인 산호섬으로 유명한 비키니환초(고리 모양으로 큰 원을 이룬 산호초를 환초라 한다)로 가서 트리니티 실험 이후 첫 번째 핵무기 실험인 ‘크로스로드 작전(Operation Crossroad)’을 참관했다. 물론 이것은 핵무기와 관련된 마지막 실험은 결코 아니었다.
그해에 노이만은 독일의 이론물리학자 클라우스 푹스(Klaus Fuchs)와 함께 특허를 출원했다. 독일공산당(KPD)의 당원이었던 푹스는 1933년에 독일을 떠나 물리학자 루돌프 파이얼스(Sir Rudolf Ernst Peierls)의 초청을 받아 영국 원자폭탄 비밀 프로젝트인 ‘튜브 앨로이스(Tube Alloys)’에 합류했다.
이후 맨해튼 프로젝트에 영입되어 미국으로 이주한 푹스는 1944년 8월부터 로스앨러모스의 이론물리학 부서에서 내파형 폭탄 설계에 참여했고, 1946년 4월 개최된 열핵무기(thermonuclear weapon) 회의에 노이만과 함께 참석했다.
두 사람이 공동으로 출원한 특허의 제목은 ‘핵에너지 활용법 개선안(Improvements in Method and Means for Utilizing Nuclear Energy)’이었는데, 사실 주요 골자는 열핵무기 개발계획이었다.
푹스와 노이만의 설계는 ‘평범한 별이 초신성(supernova)으로 변하는 물리학 원리를 지구에서 구현한다’는 에드워드 텔러의 ‘클래시컬 슈퍼(Classical Super)’에서 착안한 것이다.
텔러는 과거에 포신형 핵분열 폭탄을 이용하여 핵융합 반응을 일으킨다는 아이디어를 제안한 적이 있다. 이때 발생한 충격파와 열이 액체 중수소(또는 중수소와 삼중수소의 혼합물)로 채워진 관을 타고 전달되어 후속 핵융합 반응을 연달아 일으킨다는 원리이다.
하지만 노이만과 울람은 일련의 계산을 통해 “클래시컬 슈퍼와 같은 구조로는 핵융합 반응에 필요한 온도와 압력을 구현할 수 없다”는 결론에 도달했고, 여기에 기초한 푹스와 노이만의 아이디어도 용두사미처럼 사라졌다.
이 문제는 몇 년 후 울람과 텔러의 아이디어로 해결되어 현대식 열핵무기의 기초가 된다. 이들이 제시한 핵심 아이디어 중 하나는 방사능 내폭을 사용하는 것이다.
그 무렵 푹스는 소련의 스파이 행위를 했다는 혐의를 받고 영국 감옥에 수감되었다. 실제로 그는 1948년에 열핵무기의 자세한 설계도를 소련으로 보냈다. 이것이 초래한 가장 중요한 결과는 소련 정부가 과학자들의 권유에 못 이겨 슈퍼 프로젝트를 발족했다는 사실이다.
그리고 소련의 프로젝트는 1955년 11월 22일에 완벽한 실험으로 결실을 맺게 된다. 노이만은 스탈린을 견제해야 한다는 일념으로 최선을 다해 미국을 도왔지만, 본의 아니게 소련의 열핵폭탄 개발을 도와준 장본인이 되었다.
원자폭탄은 핵분열을 이용한 폭탄이고, 열핵폭탄은 핵융합을 이용한 폭탄이다. 그런데 현재 기술로는 핵융합을 구현할 수 있는 대상이 수소뿐이어서, 열핵폭탄을 수소폭탄(hydrogen bomb, 또는 H-bomb)이라 부르기도 한다.
전쟁이 끝난 후에도 노이만은 로스앨러모스를 수시로 방문하면서 텔러의 ‘슈퍼’가 만들어지는 과정을 지켜보았다. 이 폭탄은 분열형 폭탄(기존의 원자폭탄)을 기폭제로 사용하여 핵융합 반응을 유도하는 방식이었기에, 내부 구조가 내파형 폭탄보다 훨씬 복잡하고 다루기도 어려웠다.
게다가 폭탄이 설계대로 작동할지 확인하려면 산더미 같은 계산을 수행해야 하는데, 기존의 기계식 계산기로는 도저히 감당할 수 없는 양이었다.
무언가 획기적인 계산 장치가 절실한 시점에 펜실베이니아 대학교의 무어스쿨(Moore School) 전기공학부에서 그런 기계를 개발 중이라는 소식이 들려왔고, 노이만은 당장 프로젝트에 합류했다. 현대식 컴퓨터의 탄생이 드디어 코앞으로 다가온 것이다.
<3편에 계속>