수학의 효용성과 아름다움 사이

수학은 우주를 보는 하나의 방법론일 뿐이다.

"수학을 모르는 사람은 자연의 아름다움, 자연의 가장 내밀한 아름다움을 진정으로 알 수도, 느낄 수도 없다."

나도 한 20 년 전에는 위에 언급한 물리학자 리처드 파인만(Richard Feynmann)의 발언이 성경처럼 다가왔고, 수학을 싫어하는 혹은 멀리하는 사람들이 한편으로는 불쌍하다 생각하면서도 또 한편으로는 한심하다고 생각하는 교만한 태도를 갖기도 했다. 그렇지만 연구 분야가 넓어지고 또 점점 펀더멘털 한 영역으로 들어가면서 나 스스로의 수학 실력이라는 것이 사실 얼마나 한정적인 것인지, 그리고 내가 스스로 할 줄 아는 수학이라는 것이 얼마나 볼품없는 수준인지 알고 나서부터는 수학을 좋아한다 좀 한다 라는 말을 어디 가서 함부로 못 한다. 그저 수학이 얼마나 내 연구에 있어 좋은 툴이 되어 주고, 수학자들이 골머리 싸매어 만든 기반 위에 물리학자들이 이론화시킨 틀 안에서 컴퓨터 과학자들이 만든 알고리즘으로 전자공학자들이 만든 컴퓨터를 이용하여 데이터나 깔짝 대며 숫자를 얻고 나서 이쁘장한 그림으로 만드는 모든 과정에서 내가 진짜로 net으로 학계에 한 기여가 얼마나 미약하고 보잘것없는 것인지 깨닫곤 할 뿐이다.

파인만의 발언 속에는 물리학자로서 수학에 대해 가질 수 있는 경외심, 특히 아마도 수학이 주는 '믿을 수 없을 정도의 유용함'에 대한 경탄과 사랑이 담겨 있었을 것이라 생각한다. 리처드 파인만은 단순히 노벨상 수상자임을 넘어, 인류 역사에서 언급될 수 있는 역대급 물리학일 것임에도 불구하고, 이 발언은 여러 면에서 오독될 수 있다. 특히 물리학자가 하면 더더욱 오독될 수 있다.

나는 수학을 모르는 사람도 자연의 아름다움을 제각각의 기준으로 각자의 취향에 따라 느낄 수 있고, 자연의 가장 내밀한 아름다움이란 수학자들만의 전유물도 아니라고 믿는다. 이는 마치 시각장애인은 세상의 이미지를 볼 수 없으니 세상이 얼마나 아름다운지도 모를 것이라는 단정과 다를 바 없다. 물론 시각장애인들은 가시광선 대역의 전자기파를 수용하여 그것을 전기신호로 바꿔서 뇌에서 처리하는 과정에서 느끼는 모종의 감각을 제대로 확보하는 회로가 제대로 작동하지 않음은 자명한 사실이다. 그렇지만 그가 세상을 느끼는 채널은 시각, 특히 가시광선 대역만 있는 것이 아니다. 그가 청각으로, 후각으로, 촉각으로 느끼는 세상의 내밀함과 아름다움은 시각이 있는 사람의 그것과 비교해서 모자랄 것이라 추정하는 것은 매우 교만한 생각이다. 오히려 더 풍부하다고 해도 이상하지 않을 것 같다.

더 확실한 비교를 해보자. 어떤 새 중에는 가시광뿐만 아니라 자외선을 보는 새도 있고, 어떤 동물은 적외선을 감지하는 종도 있다. 이들은 그러면 인간보다 더 넓은 스펙트럼을 감지하니까 더 자연을 내밀하게 이해하고 아름다움도 훨씬 풍부하게 느낀다고 봐야 할까? 물론 그들이 느끼는 시각은 훨씬 풍부한 스펙트럼을 담고 있겠지만, 그 다파장 성분에서 오는 정보의 처리가 문제다. 이들은 매우 한정된 뇌 용량으로 시각 정보를 처리하기 때문에 이들의 뇌는 생존을 위해서라도 많은 정보는 소실시키고 압축하면서 버릴 것이다. 그러면 이들은 제한된 뇌 용량으로 인해 자연의 아름다움과 내밀함과는 전혀 상관없는 존재가 되는가? 그럴 판단을 더 큰 뇌 용량을 가진 인간이 일방적으로 할 수 있다면, 반대로 인간보다 더 큰 뇌 용량이나 정보 처리 능력을 가진 지적 생명체가 자신보다 못한 인간을 하등 하게 보고 인간이 이해하는 우주는 매우 제한적일 뿐이라고 폄하해도 괜찮다는 뜻이 된다.

사실 이 글은 종의 평등성 같은 거창한 이야기를 하려고 쓴 것이 아니다.

헝가리 물리학자이자 노벨 물리학상 수상자인 유진 위그너(Eugen Wigner)는 1960년, '불합리할 만큼 (즉, 설명하기 어려울 정도로) 수학이 왜 그렇게 잘 맞는가 (즉, 왜 그렇게 효과적으로 우주와 자연을 설명할 수 있는가)'에 대해 진지하게 논한 적이 있다 (The Unreasonable Effectiveness of Mathematics in the Natural Science). *

*Wigner, E. P. (1960). "The unreasonable effectiveness of mathematics in the natural sciences. Richard Courant lecture in mathematical sciences delivered at New York University, May 11, 1959". Communications on Pure and Applied Mathematics. 13 (1): 1–14.

위그너는 물리학자들이 자연 현상을 기술하기 위해 개발한 수학적 구조들이 정말 놀라울 정도로, 그리고 의도하지 않았음에도 불구하고, 다른 영역에서도 잘 맞아 들어가는 것이 신비스러울 정도라고 주장했다. 예를 들어 복소수는 맥스웰의 전자기파나 양자역학의 파동함수를 기술하기 위해 만들어진 수학적 도구가 아님에도 불구하고, 복소수가 없으면 전자기학이나 양자역학은 성립하기 어려웠을 것이다. 왜냐하면 복소수, 나아가 복소함수만큼 전자기학과 양자역학을 효과적으로 기술하는데 중요한 수학적 도구는 없었을 것이기 때문이다. 리만 기하학도 아인슈타인의 상대성이론을 위해 탄생한 것이 아니었음에도 불구하고, 마치 상대성이론을 위해 기반을 미리 닦아두기라도 하려는 듯 맞춤 맞게 기가 막힌 수학적 툴이 되어 주었다. 위그너는 스스로 던진 질문에 대해 답을 내리지는 않았다. 그는 오로지 그저 겸손하게 수학의 위대함, 놀라울 정도의 효용성에 대한 경외감만 헌사했을 뿐이다. 그는 '수학이 자연을 놀라울 정도로 정확히 설명하는 능력은 하나의 선물일 뿐이며, 우리는 이 선물에 그저 감사해야 한다'라고 이야기했다.

위그너의 겸허함이 겸연쩍게도, 수학은 생각보다 결함이 있을 수 있다. 그 놀라운 효용성에도 불구하고 수학이 우주 전체를 다 설명하는 것도 아니고, 수학적으로 합리적인 설명이나 이론이라고 하더라도 그에 대응하는 물리적 실체가 우주에 반드시 존재하는 것도 아니기 때문이다. 이미 각각의 반례는 수도 없이 많이 있다.