물리학, 수학 안에서 길을 잃다

자비네 호젠펠더, 《수학의 함정》

제목이 마치 수학에 관한 책 같지만 실제로는 수학이 아니라 물리학에 관한 책이다. 간단하게 요약하자면, 수학적 아름다움에 매몰되어버린 물리학에 대해 비판하고 있는 책이다.

어찌 보면 학교나 연구소에 종신직의 자리를 얻지 못한, 이른바 계약직 연구원의 삐딱한 시선으로 볼 수도 있지만, 그런 배경을 젖혀 두고 읽더라도 충분히 공감할 만한 내용이다.

물론 나는 여기에서 이야기하는 현대 물리학의 내용을 잘 이해하지는 못했다. 식은 하나도 쓰고 있지 않지만, 일반상대성이론, 특수상대성이론, 양자역학은 물론이고, 핵입자론, 양자장이론, 끈이론, 다중우주 등으로 이어지는 물리학 최전선의 이론들을 충실히 꿰면서 따라가는 것은 아무래도 무리다. 그러나 여기서 다루고 있는 물리학 이론을 명확하게 이해하지는 못하더라도 무엇을 말하고자 하는지는 충분하게 파악할 수 있다.

물리학의 발달은 필연적으로 수학의 도움을 필요로 했다. 물리학은 수학의 언어로 기술되었다. 수학은 이론을 명확하게 이해할 수 있게 하고, 실험 결과를 표현할 수 있는 객관적인 언어였다. 그런데 문제는 이런 상황이 심화되면서 아예 실험의 뒷받침 없는 이론이 등장하고, 그 이론을 받아들이는 데 있어서 기준이 수학적 미학이 되었다는 데 있다.

이론이 고도화되면서 실험적으로 증명할 수 있는 이론이 등장했다. 이를테면 끈이론이 그렇고, 다중우주론이 그렇다. 그리고 그 이론에서 파생된, 이론을 뒷받침할 것으로 기대되는 초대칭도 그렇다. 끈이론이나 다중우주론은 애초에 증명이 불가능하고, 초대칭은 입자가속기를 통해서 발견되기를 기대했지만 발견되지 않고 있다. 이론물리학자들은 말을 바꾼다. 혹은 상수를 조금씩 변경한다. 저자는 끈이론에 대해 이야기하면서 스티븐 킹의 소설 《토미노커스》을 인용한다. 소설에서는 용도를 알 수 없는 외계 물체에 끝이 무엇인지도 끌려가다 결국은 파국을 맞이한다.

이론물리학자인 저자는, 이런 이론들이 “논란을 일으키지만 엄청나게 인기 있고, 추론적이지만 흥미롭고, 예쁘지만 쓸모가 없다”고 지적한다. 교수가 되고, 명예를 얻고, 많은 연구비를 받지만 말이다. 결국에는 실험만이 정확한 자연의 이론을 결정할 수 있음에도 불구하고, 실험적 입증이 아니라 단순성, 자연스러움, 우아함을 기준으로 이론을 평가받고 있는 상황이다. 단 한 번도 정확히 정의된 적 없는 이 이론으로 평가한다는 것이 아이러니하다.

많은 유명한 과학자들이 이론의 아름다움을 찬양해왔다. 하지만 그것은 진실이기 때문에 아름다운 것이지, 아름다워서 진실인 것은 아니었다. 과학은 예술적일 수 있지만, 예술은 아니다. 이론물리학에서 과도한 미학적 추구는 마치 병적 과학의 모습마저도 보인다.

저자는 이렇게 이야기한다. 물리학은 수학이 아니다. 물리학은 문제는 수학이 아니라 물리학에 있다. 물리학은 수학 안에서 길을 잃고 있다(책의 원제가 바로 “Lost in Math”다).