brunch

매거진 사회 속의 과학 이야기

라이킷 19 댓글 11

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by 배대웅 Jun 18. 2023

자연에 대한 확률적 해석

양자역학과 미시세계의 탐구

인터넷에 돌아다니는 유명한 짤방(이미지)이 있다. 네티즌들은 인류 역사의 레전드 정모.jpg, 지구 최강의 정모.jpg 등으로 부른다. 짤방의 정체는 1927년 10월에 열린 제5차 솔베이 회의(Solvay Conference)의 단체 사진이다. 솔베이 회의는 1911년부터 개최된 물리학과 화학의 국제학술대회다. 이 사진이 유명한 이유는 참석자들의 화려한 면면 때문이다. 알베르트 아인슈타인을 필두로 헨드릭 로런츠, 마리 퀴리(Marie Curie), 막스 플랑크(Max Planck), 아서 콤프턴(Arthur Compton), 에르빈 슈뢰딩거(Erwin Schrödinger), 닐스 보어(Niels Bohr), 베르너 하이젠베르크(Werner Heisenberg) 등 천재들이 모였다. 29명 중 17명이 노벨상 수상자다. 학회 참석자가 아니라 현대물리학 교과서 공동 집필진이라고 해도 될 정도다.

인류 역사의 레전드 정모.jpg

사진만 봐서는 다들 사이가 좋은 것 같다. 그러나 이 대회에서는 격렬한 논쟁이 있었다. 주제는 ‘전자와 광자’였다. 양자역학이라는 새로운 패러다임을 두고 첨예한 전선이 생겼다. 주로 사진 앞줄에 앉은 선배 석학들은 양자역학에 부정적이었다. 반면 뒷줄에 분포한 젊은 후학들은 옹호했다. 학회란 본디 점잖은 행사다. 질문과 토론을 해도 상대방 기분이 상하지 않게 예를 갖춘다. 하지만 이때는 그런 거 없었다. 존경받는 석학들이 서로 얼굴을 붉히며 집요하게 비판하고 지적했다. 양자역학을 어떻게 받아들일 것인가는 그만큼 중요하고 민감한 문제였다.

고전물리학의 모순

양자역학은 원자 이하 미시세계(약 1,000만 분의 1㎜ 이하)의 운동을 기술한다. 고전물리학은 우리가 감지할 수 있는 거시세계의 설명에는 이보다 더 완벽할 수 없었다. 나무에 매달린 사과부터 우주를 지나는 혜성까지, 수만 가지 물체의 운동을 정확하게 해석하고 예측했다. 그런데 오감으로 확인할 수 없는 미시세계에 대해서는 그렇지 못했다. 뉴턴과 맥스웰 선생께서 삼라만상을 다 설명해 놓으셨건만, 이상하게도 원자 내부로만 가져가면 어긋났다. 학자들은 영화 ‘신세계’의 명대사를 되뇌었다. “이러면 완전 나가리인데…” 특히 전자, 원자핵, 양성자, 중성자, 핵력의 발견으로 원자에 대한 이해가 급진전하면서 모순은 걷잡을 수 없게 되었다.

이렇게 모순이 생겨버리면 완전 나가리...

발단은 1900년의 ‘양자가설(quantum hypothesis)’이었다. 이런 문제였다. 물질을 뜨겁게 하면 빛이 나온다. 용암이나 뜨겁게 달아오른 쇠를 생각해 보면 된다. 물질의 에너지가 높아지면서 빛 에너지를 방출하는 것이다. 그런데 이를 고전물리학으로 계산해 보면, 짧은 파장대에서 빛의 에너지가 무한히 커지는 황당한 결과가 나왔다. 실제 실험에 따르면 짧은 파장에서는 빛 에너지가 정점을 찍고 확 급감해야 했다. 왜 이런 모순이 생길까? 이때 플랑크가 아주 대담한 가정을 도입했다. 빛 에너지가 불연속적인 작은 알갱이들이라고 하면 이 문제가 해결된다는 것이다. 이 띄엄띄엄 덩어리 진 에너지를 지칭하는 개념이 바로 양자(量子, quantum)다. 그러니까 플랑크의 양자가설은 실험 결과에 이론을 끼워 맞춘 미봉책이었다. 고전물리학에서 빛 에너지란 곧 연속체였다. 하지만 플랑크는 빛 에너지가 기본 단위의 정수배로서만 존재한다고 보았다. 비유컨대 빛 에너지를 고전물리학에서는 끊김 없이 연속적인 경사면으로 여긴다면, 플랑크는 분절적인 계단으로 본 것이다. 한 계단에서 다른 계단으로 움직일 뿐, 그 중간 어딘가에 머무를 수 없다.

1905년 아인슈타인은 이를 광양자가설로 발전시켜 광전효과를 설명할 수 있었다. 광전효과가 중요했던 이유는 빛의 본질에 대한 새로운 지평을 열었기 때문이다. 빛이 입자인가, 파동인가는 과학사를 관통하는 대논쟁이다. 17세기 크리스티안 하위헌스(Christiaan Huygens)가 파동설을 확립했지만, 곧바로 뉴턴의 입자설이 역전했다. 19세기에는 파동설이 다시 주류가 되었다. 토머스 영(Thomas Young)은 이중슬릿 실험으로 빛의 파동성을 뒷받침하는 간섭무늬를 확인했다. 맥스웰도 빛이 전자기파, 즉 전기와 자기에 의한 파동이라고 했다. 이것으로 논쟁은 종결된 것으로 보였다. 하지만 아인슈타인은 둘 다 맞으면서 또 틀렸다고 했다. 빛이 전파될 때는 파동이었다가, 물질과 상호작용할 때는 입자의 성질을 보인다는 것이다.

괴이한 논리였다. 조그만 알갱이가 물결이기도 하다니 얼마나 황당한가? 입자는 형태가 있고 불연속적이다. 파동은 형태가 없고 연속적이다. 광양자가설은 이렇게 고전물리학의 기본 개념틀을 깨버려 엄청난 논란을 낳았다. 그러나 1923년 콤프턴이 빛의 입자성을 실험으로 보여 아인슈타인이 옳았음이 입증됐다. 물론 그렇다고 입자설이 다시 파동설에 승리를 거뒀다고 할 수는 없었다. 빛의 회절과 간섭 현상은 그 본질이 파동임을 분명히 보여준다. 따라서 결론은 이렇다. 빛은 입자와 파동의 성질을 모두 갖는다. 상황에 따라 어느 한 가지 성질이 나타난다.

그래서 1924년 루이 드 브로이(Louis de Broglie)가 재미있는 아이디어를 냈다. 파동인 줄 알았던 빛이 입자이기도 하다고? 그럼 입자인 전자, 중성자, 양성자 등도 파동의 성질을 가질 수 있겠네? 물리학자들은 자연을 대칭으로 받아들이는 사람들이다. 그러니 이러한 역발상은 그럴듯했다. 지도교수는 드 브로이의 가설에 황당해했지만, 아인슈타인은 그렇지 않았다. 아인슈타인의 조교 슈뢰딩거는 이 가설에 착안, 파동방정식으로도 알려진 슈뢰딩거 방정식을 완성했다. 미세한 입자의 상태를 파동함수로 기술한 이 방정식은 후일 양자역학의 기본이론이 된다. 드 브로이의 가설은 실험으로도 입증되었다. 1927년 클린턴 데이비슨(Clinton Davisson)과 레스터 저머(Lester Germer)는 전자도 빛과 마찬가지로 회절하며, 영의 이중슬릿 실험에 전자를 써도 간섭무늬가 나타남을 보였다. 이로써 입자-파동 이중성(duality)이 확립되었다. 이제 양자역학이 태동할 기본 바탕은 거의 마련된 셈이었다.

빛은 파동이기도 하고, 입자이기도 하다.

상보성의 개념

플랑크, 아인슈타인, 드 브로이, 슈뢰딩거의 혁신은 어디까지나 고전물리학 내에서 제기된 논점에 고전물리학적으로 대응한 것이었다. 따라서 기존 체계를 허물고 새 패러다임을 도입하려는 의도가 전혀 없었다. 실제로 이들 모두는 후일 양자역학에 부정적이었다. 이들의 연구가 양자역학에 중요한 계기를 제공했다는 점을 생각해 보면 역설적이다.

양자역학이라는 뉴웨이브의 선두에는 보어가 있었다. 보어는 원자핵을 발견한 어니스트 러더퍼드(Ernest Rutherford)의 원자 모델이 가진 오류를 해결해 노벨물리학상을 받았다. 이것은 전자의 궤도나 에너지가 정수로 떨어지는 불연속적이라는 양자적 가설을 도입해 가능했다. 보어는 연구도 잘했지만 리더십도 뛰어났다. 코펜하겐대학교에 이론물리학연구소를 세우고 많은 학자를 초청했다. 양자역학은 그들의 협업으로 탄생한, 일종의 집단연구 성과였다. 이들이 공유한 양자역학의 표준적 해석을 ‘코펜하겐 해석(Copenhagen interpretation)’이라고 한다. 과학에 해석이란 단어는 좀 낯설다. 이는 양자역학의 독특한 성립 과정을 반영한다. 뉴턴역학이나 상대성이론은 기본이 되는 공리를 토대로 세워졌다. 1명의 천재가 처음부터 끝까지 다 만들어서 완결성도 높다. 반면 양자역학에는 그런 거 없다. 양자가설이나 광양자가설에서 보듯 기묘한 현상을 이리저리 해석하면서 결과가 짜 맞춰졌다. 완결성이 부족할 수밖에 없었다. 그래서 가장 권위 있고 표준적인 해석이 필요했다. 그걸 체계화한 이들이 보어와 그 무리였기에 코펜하겐 해석이라고 한다.

보어가 제창한 상보성(complementarity)이 그 핵심 개념이 된다. 원자 내부에는 물체의 여러 상태가 동시에 존재한다. 보어에 의하면 서로 배타적인 두 명제를 보완적으로 합쳐야 비로소 이러한 현상을 이해할 수 있다. 둘 중 하나만으로는 불가능하다. 보통의 상식으로는 서로 배타적인 관계에서 둘 중 하나가 참이면 다른 것은 거짓이어야 한다. 실제로 고전물리학의 논리가 그러하다. 입자와 파동은 상호배타적 개념이며 하나의 현상에 동시 적용할 수 없다. 하지만 원자의 세계를 이해하려면 이러한 상식을 버려야 한다. 보어의 설명이다.

처음 보면 이러한 현상이 대조적이겠으나, 원자에 대한 모든 정보를 보편의 언어로 모호함 없이 정확하게 표현하려면 둘 다가 상보적임을 깨달아야 한다.

“Contraria sunt Complementa(대립적인 것은 보완적이다)” 1947년 보어가 기사 작위 문장에 직접 써넣은 라틴어 문구다. 과학의 명제가 아니라 철학의 선문답 같다. 장자의 제물론(齊物論)을 생각해 보라. “저것은 이것에서 나오고, 이것 역시 저것에서 비롯된다.” 만물 어느 곳이든 도(道)가 있다는 장자의 철학은 기나긴 시공간을 건너 양자역학과 만난다. 실제로 보어는 주역을 비롯한 동양철학에 관심이 지대했다. 그래서 위의 문구와 함께 음양을 상징하는 태극 문양으로 기사 문장을 만들었다. 음양론에 의하면 음과 양이라는 대립적 성질이 균형을 이뤄 만물의 존재 양식을 이룬다. 신기하게도 양자역학의 입자-파동 이중성과 서로 뜻이 통한다.

보어가 자체 제작한 기사 문장. 그의 동양철학적 사상이 투영되어 있다.

불확정성의 원리

보어의 절친이자 제자인 하이젠베르크는 불확정성 원리(uncertainty principle)로 코펜하겐 해석을 완성했다. 뭘 확정할 수 없다는 것일까? 고전물리학은 물체의 위치와 속도(또는 운동량)를 알면 현재는 물론 미래의 상태까지 알 수 있다고 전제했다. 이러한 결정론은 고전물리학, 나아가 근대과학을 떠받치는 인식론적 기초이다. 다만 원자 내부에서도 그럴까? 예컨대 수소 원자의 내부에서 전자의 위치와 속도를 구해 그 궤도를 그릴 수 있나? 하이젠베르크에 의하면 두 가지를 동시에 정확히 아는 것은 불가능하다. 어느 한쪽을 알면 나머지는 알 수 없다. 전자의 위치와 속도에 대한 동시 측정의 한계치를 직접 계산해서 얻은 결론이다. 전자의 궤도는 그저 확률적으로만 가늠할 수 있다.

이상한 이야기처럼 들리나 우리 일상에도 비슷한 예는 있다. 소리나 물결 같은 파동을 생각해 보자. 스피커의 소리나 호수의 물결이 퍼지는 속도는 알 수 있다. 그러나 위치가 어디라고 말하기는 어렵다. 전자가 파동이라면 이처럼 속도는 있으나 위치는 알 수 없다. 그럼 전자를 입자로 받아들인다면? 파동성이 없어지므로 위치는 알 수 있으나 속도는 알 수 없게 된다.

불확정성 원리에 따르면 관측의 의미도 달라진다. 관측자가 관측 대상에 영향을 미치기 때문이다. 이것도 관측자와 관측 대상이 독립적이라는 고전물리학과는 충돌한다. 관측자와 관측 대상은 관측 장치로 매개된다. 그런데 원자 내부는 상상할 수 없을 정도로 작고, 거기에 들이대는 관측 장치는 너무 크다. 이 커다란 장치가 극미세 입자들에 아무 영향을 미치지 않는다고 생각하기 어렵다. 입자-파동 이중성 문제도 여전히 존재한다. 관측 대상은 관측 장치에 따라 입자일 수도 파동일 수도 있다. 이 정의를 좀 더 밀고 나가면, 양자역학에서 물리량이란 관측 가능한 양으로서만 유의미하다고 할 수 있다. 이 역시 고전물리학과 긴장을 일으킨다. 고전물리학에서는 관측과 무관하게 물리적인 실재가 존재한다. 즉 100℃의 끓는 물은 온도계로 측정하든 안 하든, 그냥 끓는 물이다. 그러나 양자역학에서는 관측이 이루어지지 않는 한 물리적 실재가 있다고 말할 수는 없다. 측정의 순간 물리적 성질이 달라질 수 있다. 그럼 대체 관측 이전에 물리적 대상은 어떤 상태에 있는가? 이 난점은 이른바 ‘슈뢰딩거의 고양이’로 공격받는 포인트가 된다.

여담이지만 코펜하겐 해석은 칼스버그의 지원을 받아 만들어졌다. 덴마크의 그 맥주회사 맞다. 창업자 야콥 야콥센(Jacob Jacobsen)이 과학 덕후여서 이런 일이 가능했다. 그는 1876년 칼스버그 재단을 만들어 과학 연구를 지원하기 시작했다. 덕업일치를 실천한 셈이다. 칼스버그는 규정에 따라 연수익의 일정 비율을 재단에 적립해야 한다. 그러니 재정이 탄탄할 수밖에 없다. 보어도 일찍부터 그 지원을 받았다. 코펜하겐 해석이 탄생한 이론물리학연구소 설립에도 칼스버그가 기부했음은 물론이다. 칼스버그가 물리학 공식 맥주라는 농담도 있을 정도다(제물칼... 제발 물리학도라면 칼스버그 좀 마십시다).

신은 주사위 놀이 안 한다 vs 신의 일에 참견 마라

여기까지가 1927년 제5차 솔베이 회의의 개최 직전 상황이다. 이제 학회가 개막하고, 최대 관심사는 역시 보어의 발표였다. 하지만 보어는 엄청난 반론에 부딪혔다. 반론의 선봉은 다름 아닌 아인슈타인이었다. 사실 아인슈타인은 양자역학 태동에 누구보다 공이 컸다. 광양자가설을 도입했고, 드 브로이의 물질파 가설과 보어의 원자 모델이 갖는 가치를 알아본 것이 바로 그였다. 그러나 아인슈타인은 끝내 양자역학의 모호함과 확률론적 함의를 받아들일 수 없었다. 그 또한 맥스웰을 신봉한 결정론자였기 때문이다. 그래서 학회 내내 코펜하겐 해석이 모순에 빠지는 사고실험을 제시해서 보어를 도발했다. 그러면 보어와 동료들은 그에 대한 답을 내놓으며 맞받아쳤다. 집요한 공격과 방어가 계속 반복되었다. 숙소와 식당에서도 서로 열변을 토하기 일쑤였다. 보어와 함께 아인슈타인과 논쟁했던 하이젠베르크의 회고다.

훗날 양자역학이 어엿한 물리학의 한 분야로 확고히 자리 잡았을 때도 아인슈타인은 자신의 입장을 철회하지 않았다. 그는 양자론을 한시적으로만 통용되는 가설이지, 원자 현상에 대한 최종적인 답은 아닌 것으로 여겼다. “신은 주사위 놀이를 하지 않는다.” 아인슈타인은 이런 원리를 굳게 부여잡았다. 보어는 그런 아인슈타인에게 이렇게 응수할 뿐이었다. “하지만 신이 어떻게 세계를 다스릴지 신에게 제시해 주는 것도 우리의 과제는 아닌 듯합니다.”

아인슈타인의 “신은 주사위 놀이를 하지 않는다”라는 비판은 철학적 함의를 내포한다. 마치 자연을 인과율로 파악해서 성공을 거둔 결정론적 전통이 갓 태동한 양자론에 코웃음 치는 것 같다. 여기에는 자연이 고작 확률 따위의 지배를 받을 리 없다는 자신감이 깔려 있다. 보어의 답도 걸작이다. 그러니까 신도 아니면서 신의 일에 참견 말라, 자연이 인과율을 따르는지 아닌지는 누구도 알 수 없다는 의미다.

1925년과 1934년의 아인슈타인과 보어. 둘은 사적으로 절친했지만 몇 년을 두고 세기의 대논쟁을 벌였다.

슈뢰딩거도 양자역학에 공로가 컸으나 이를 비판했다. 그는 양자역학의 황당함을 보이고자 저 유명한 ‘슈뢰딩거의 고양이’ 사고실험을 제시했다. 이런 내용이다. 밀폐된 상자에 고양이와 청산가스 병이 들어있다. 청산가스 병은 망치 및 가이거 계수기와 연결된다. 계수기는 방사선을 감지하면 망치를 내려쳐 청산가스 병을 깬다. 그 위에는 1시간에 절반의 확률로 핵이 붕괴하여 알파선을 방출하는 우라늄 입자가 있다. 이제 1시간 뒤 상자를 연다. 그럼 고양이는 어떤 상태인가? 코펜하겐 해석에 의하면 관측 전까지는 그 상태를 알 수 없다. 그러니 고양이는 살아있기도 하고 죽어있기도 한 중첩적 상태가 된다. 이게 말이 되나? 슈뢰딩거는 이렇듯 거시세계에 양자역학을 적용할 때 발생하는 측정과 해석의 문제점을 지적했다. 오히려 요즘에는 양자역학 쪽에서 이해를 돕고자 슈뢰딩거의 고양이를 잘 써먹는 것 같지만.

이렇게 양자역학은 미운 오리 새끼 마냥 미움을 많이 받았다. 그런데 그게 전화위복이 되었다. 양자역학의 개척자들은 쏟아지는 비판에 대응하며 그 체계를 정교하게 가다듬을 수 있었기 때문이다. 아인슈타인과 보어의 논쟁만 해도 몇 년을 이어갔다. 보어와 코펜하겐 학파는 이러한 공격을 모두 막아내며 양자역학의 완성도를 높여나갔다. 그 결과 양자역학 없는 현대 과학기술문명은 상상할 수조차 없게 되었다. 인류는 양자역학을 통해 비로소 원자 내부 세계를 제대로 이해하기 시작했다. 이 의미는 매우 중요하다. 인간이 전자와 원자핵을 제어하게 되면서 전자기술과 원자력 에너지도 급격히 발전했기 때문이다. 단적인 예로 현대인의 필수품인 스마트폰과 컴퓨터는 양자역학이 아니었다면 현재의 기술 수준에 이를 수 없었다. 물리학뿐만이 아니다. 화학에서는 양자역학으로 원자들의 화학결합 원리를 이해하게 되었다. 원소들의 결합은 원소 속 전자들의 배치로 결정되는데, 이는 양자역학의 규칙을 따른다. 생명과학에서도 마찬가지다. 유전자 조작 식품, 유전자 편집 기술(유전자 가위) 등이 양자역학을 기반으로 구현될 수 있었다.

그래서 리처드 파인만(Richard Feynman)은 이렇게 말했다. “외계인이 침공하여 지구는 멸망 직전이다. 나, 남학생 10명, 여학생 10명만 살아남았다. 나도 1분 후에는 죽는다. 이때 물리학자로서 학생들에게 단 한마디의 지식을 남겨야 한다면? 나는 망설이지 않고 ‘이 세상 모든 것은 원자로 이루어져 있다’라고 말하겠다.” 미운 오리 새끼에서 백조가 된 양자역학의 눈부신 업적을 보면 결코 과장되지 않은 표현이다.

keyword