제6장: “수학적 기초: 마음껏 겁먹어도 괜찮다.”
수학적 기초는 양자역학의 ‘문법' 같은 역할을 할 뿐이다.
양자역학을 공부하다 보면, 언젠가는 ‘수학의 장벽’ 앞에서 망설여지는 순간이 찾아온다. 슈뢰딩거 방정식이나 연산자, 행렬 기법처럼 생소한 개념들이 갑자기 튀어나올 때면 “이게 대체 뭔 소린가?” 싶어 머리가 복잡해진다. 하지만 너무 겁먹지 않아도 괜찮다. 사실 이 수학적 도구들은 양자역학이란 낯선 언어를 보다 정확히 표현하기 위한 ‘문법’ 같은 역할을 할 뿐이다. 일상에서 쓰는 말에 문법이 없으면 서로 소통하기가 힘든 것처럼, 양자의 세계를 이해하려면 그 세계의 문법, 즉 수학적 기초를 조금씩 익혀볼 필요가 있다.
양자역학은 일종의 ‘파동’을 다루는 학문이라는 점에서, 파동 방정식의 연장선상에 있다. 그중에서도 가장 유명한 것이 바로 슈뢰딩거 방정식이다. 어쩌면 수학 기호로 가득한 형태를 처음 보면 겁부터 날 수 있지만, 핵심은 “입자의 상태(파동함수)가 시간에 따라 어떻게 변해가는가?”를 간단한 규칙으로 표현했다는 데 있다. 파동함수(ψ)는 그 입자가 어느 위치에서 어떤 확률로 발견될지를 나타내는 개념이고, 슈뢰딩거 방정식은 이 파동함수가 시간의 흐름에 따라 어떻게 바뀌는지를 알려준다. 즉, 작은 전자가 이곳에서 저곳으로 이동할 때 그 과정을 1초 뒤, 2초 뒤 형태로 쭉 그려주는 수학적 지도인 셈이다.
슈뢰딩거의 고양이(Schrödinger's cat) 실험: 양자역학을 비꼬기 위해 계획된 실험이 결국 현재 양자역학을 가장 잘 대변하는 실험으로 자리잡았다.파동함수는 눈으로 볼 수 없는 추상적인 대상이지만, 이를 알면 입자가 어디서 발견될 가능성이 높은지, 혹은 에너지가 어느 정도인지 등 중요한 정보를 얻을 수 있다. 그러므로 슈뢰딩거 방정식을 해석하는 방법을 익히면, 양자역학이 “입자는 파동처럼 행동할 수도 있다”라는 말을 구체적으로 실현해내는 과정을 엿볼 수 있게 된다. 학교에서 배웠던 미분방정식, 적분 같은 것이 여기서 다시 등장하지만, 정말로 중요한 것은 이 방정식이 우리에게 전달하는 ‘물리적 의미’다. 이 부분을 놓치지 않는다면, 수학 공식 자체가 조금 복잡해 보여도 그 속에 담긴 논리는 조금씩 이해하기가 수월해진다.
양자역학에서 사용하는 또 다른 필수 도구가 연산자(operator)라는 개념이다. 연산자는 파동함수에 작용해서 무언가를 ‘측정’하거나 ‘변환’하는 수학적 장치다. 예를 들어 위치 연산자는 특정 파동함수로부터 “이 입자가 특정 위치에 있을 가능성이 얼마나 되는가?”라는 값을 추출해낸다. 운동량 연산자는 “이 입자가 어느 정도의 속도(또는 운동량) 상태를 가지고 있는가?”를 계산하도록 도와준다. 다시 말해, 연산자는 양자역학에서 우리가 알고 싶은 물리량(에너지, 각운동량 등)을 파동함수에서 읽어내는 역할을 맡는다. 언뜻 복잡해 보이지만, 생각해 보면 함수에 입력값을 넣어 어떤 결과값을 얻는 과정과 크게 다르지 않다. 다만 여기서는 그 ‘함수’가 곧 파동함수이고, 출력되는 결과가 확률적인 형태로 나타난다는 점이 특별할 뿐이다.
파동함수를 사용할 수 있는 대표적인 예이렇듯 파동함수와 연산자의 개념이 자리를 잡아가자, 물리학자들은 점차 수학적 표현을 좀 더 정돈하기 시작했다. 그 과정에서 행렬 기법이 등장했고, 이는 양자역학을 완전히 새로운 방식으로 풀어쓰는 데 큰 공헌을 했다. 물리학자 폴 디랙, 베르너 하이젠베르크 등은 양자 상태를 벡터로, 그리고 연산자를 행렬로 다루는 방식을 정립했다. ‘행렬 기법’이란 말을 들으면 왠지 복잡한 선형대수의 세계가 떠오를 수도 있지만, 사실 이 방식은 파동함수를 ‘일련의 숫자로 표현된 상태’로 간단히 바꾼 뒤, 행렬(연산자)을 곱해 원하는 물리량을 얻는 일종의 계산 규칙에 가깝다. 학교에서 배운 행렬 곱셈을 응용해, 양자 상태의 변화를 수학적으로 표현한다고 보면 된다.
양자역학에서 ‘힐베르트 공간(Hilbert space)’이라는 말이 종종 언급되는데, 이는 이런 모든 벡터(파동함수)를 담을 수 있는 거대한 ‘좌표 공간’ 같은 개념이다. 우리가 일반적인 3차원 공간에서 물체의 위치를 (x, y, z)로 나타내듯이, 양자 상태는 힐베르트 공간이라는 추상적 차원에서 특정 벡터로 표현된다. 이 개념은 다소 난해해 보이지만, 본질적으로는 “양자의 상태를 정의할 수 있는 좌표계”라고 생각하면 그리 어렵지 않다. 물론 실제 계산은 훨씬 복잡하겠지만, 최소한 그 철학적 뼈대는 우리에게 ‘양자 세계는 고전적 직관과는 다르게 추상적 차원을 필요로 하는구나’라는 통찰을 준다.
이렇게 다소 낯선 수학적 기초를 ‘조금씩’ 맛보기 형태로 접해보면, 양자역학이 왜 그렇게 독특하면서도 강력한 예측 능력을 갖출 수 있었는지 이해할 수 있다. 슈뢰딩거 방정식이 파동함수를 시간에 따라 변환시키는 ‘규칙’을 제시하고, 연산자들이 특정 물리량을 끄집어내며, 행렬 기법이 이를 체계적으로 계산하게 만든다. 결국 이 모든 과정은 “작은 세계가 확률적이면서도 일정한 규칙으로 움직인다”는 양자역학적 관점을 수학으로 구현한 결과다. 수학이 없다면 말로만 “전자나 광자가 이렇다더라”라고 주장하는 데 그치겠지만, 이론과 실험을 일치시키기 위해서는 정교한 계산과 증명이 필요하다. 그 역할을 수학이 해내고 있는 것이다.
물론, 이 글만으로 양자역학의 수학적 기초를 완전히 이해할 수는 없다. 실제로는 깊은 미적분, 선형대수, 복소함수론 등 많은 수학적 배경지식이 필요한 분야다. 그러나 중요한 점은, 이 수학이 결코 ‘이상한 숫자 장난’이 아니라는 사실이다. 양자역학은 실험적으로 검증된 과학이고, 그 토대가 되는 수학적 표현 역시 우리의 물리적 현실을 반영하고 있다. 마음껏 겁먹어도 괜찮다. 처음에는 다소 복잡해 보이더라도, 그 바탕에는 “눈에 보이지 않는 세계를 논리적으로 설명하고, 예측하게 돕는” 강력한 도구가 자리 잡고 있다. 몇 번이고 무슨 뜻인지 곱씹어보면서 개념을 천천히 정리해나가다 보면, 언젠가는 이 수학적 언어가 양자역학의 기묘하고도 정교한 작동 원리를 선명하게 보여준다는 것을 깨닫게 될 것이다.
