#서평 26 뉴욕타임스 수학

-지나 콜라타 외 4인 저, 수학에 대한 정확한 나무위키

# File with header

[서평] 뉴욕타임스 수학 

 오늘 서평을 작성할 책은 <storng> 뉴욕타임스 수학 </strong>이라는 책입니다. 일명 마법사 책이라는 별명으로 더 유명한 [프로그램의 구조와 해석]라는 책을 사러 교보문고에 들렀다가 우연히 알게 된 책입니다. 뉴욕타임스와 수학이 무슨 관계가 있을까?라는 호기심에 집어 든 책인데, 생각보다 흥미로운 부제를 갖고 있었습니다. 제가 홀린 듯 책을 결제하게 만든 부제는 [수와 식에 관한 100년간의 이야기]입니다. 왜 이 부제가 흥미로웠는지에 대해서는 제 다른 취미에 대해서 소개하면서 설명해드리겠습니다. 

 저는 평소에 [나무 위키]라는 서비스를 이용하는 것을 즐깁니다. 물론 재미 차원에서 접근합니다. 누구나 편집할 수 있다는 위키 문서의 특성상 아주 다양한 문서가 생성되어 있지만, 내용의 엄밀함에 대해서는 문제가 있기 때문입니다. 내용의 엄밀함이 보장되지 않음에도 불구하고 나무 위키라는 서비스를 즐겨 이용하는 이유는 말랑말랑하게 여러 개념들에 대한 이야기를 다루고 있기 때문입니다. 물론 교과서나 공신력 있는 단체의 웹페이지가 내용의 엄밀성은 훨씬 뛰어나지만, 재미 삼아서 읽기에는 퍽 효율적이지 않은 문서라고 생각합니다.

 이런 이유로 나무 위키를 즐겨 이용하지만 한편으로 아쉬운 것도 분명합니다. 내용의 엄밀함이 보장되지 않는다는 점은 이미 큰 흐름을 알고 있는 경우에는 큰 상관이 없지만, 배경지식이 전무한 분야에 대해서는 오개념을 갖게 될 수도 있기 때문입니다. 제 경우에는 특히 수학 관련 문서들이 그렇습니다. 좋아하긴 하는데, 제대로 배운 적이 없으니 나무 위키의 설명이 제대로 된 것인지 아닌지 판단할 수가 없어서 늘 한걸음 뒤로 물러나서 읽게 되는 문서입니다. 

 이 책의 부제인 [수와 수식에 관한 100년간의 이야기]가 인상적이었던 이유는 바로 이런 평소 아쉬움 때문이었습니다. [뉴욕타임스 수학]이라는 이 책은 뉴욕타임스에서 지난 100년 동안 다룬 수학과 관련된 특집 기사를 엮어놓은 책입니다. 세계적인 언론사인 뉴욕타임스의 특집기사이기 때문에 나무위키에 비해서는 훨씬 더 내용의 엄밀함에 대해서 신뢰할 수 있는 글들이 수록되어 있습니다. 동시에 전공자를 대상으로 하는 논문과 달리 비전공자를 대상으로 하는 글이기 때문에 논문 등 전공자를 대상으로 쓴 글에 비해서 훨씬 말랑말랑하고 쉬운 편입니다. 제가 나무위키에서 느꼈던 장점은 그대로 유지하면서, 단점은 보완한 상위 호환인 것입니다. 그리고 예상했던 것럼 글은 정말 좋았고, 내용도 아주 흥미로웠습니다. 특히 인류 역사에 의미가 있는 수학적 발견이나 관련 연구를 그 시대의 기사를 통해서 접해본다는 경험이 아주 색달랐습니다. 책에 대한 추천은 여기까지입니다. 이하 문단은 제가 책을 읽으면서 인상적이었던 부분에 대한 정리나 관련된 생각에 대해서 다루겠습니다.

 이 책은 도입부에서 아주 의미심장은 물음을 던집니다. [수학은 무엇인가?]라는 물음입니다. 수학은 기괴할 정도로 물리 현상을 효율적으로 서술할 수 있습니다. 그리고 이런 맥락에서 보면 우주는 수학의 법칙을 따르는 것처럼 보입니다. 우리는 이런 기괴할 정도로 효율적인 수학의 물리 현상 설명력의 혜택을 보고 있지만 동시에 궁금증이 이는 것을 참을 수 없습니다. "어떻게 이렇게 효율적일 수 있을까?"라는 궁금증입니다. 추가로 "정말로 우주는 수학의 법칙을 따르는 것일까?"라는 의문도 따릅니다. 물론 아직까지 정답은 알 수 없습니다. 지금까지 우리가 발견한 물리현상 모두를 수학 법칙으로 설명할 수 있다고 해서 앞으로 발견될 물리현상도 모두 수학 법칙을 따를 것이며, 따라서 우주는 수학의 법칙을 따른다고 확신할 수는 없기 때문입니다. 그리고 만약에 우주가 수학의 법칙을 따른다면, 빅뱅이 일어나서 우주가 탄생했던지, 신이 우주를 창조했던지 가장 먼저 탄생(창조)된 것은 수학일 것입니다. 그리고 만약 그렇다면 수학은 그 자체가 진리를 담고 있는 자연의 언어이자 신의 언어가 맞다고 할 수 있습니다. 이런 관점을 책에서는 '플라톤주의'라고 이야기합니다. 반면에 이런 가설도 가능합니다. 우주가 수학의 법칙을 따르는 것이 아니라 인간이 진화 과정에서 우주의 행태를 인식하고 묘사하기 위한 도구로서 수학을 발명했다는 가설입니다. 생존을 위해서 진화 과정에 '발명'한 것이 수학이라는 것입니다. 이 경우, 수학은 뛰어난 도구이지만 절대적 진리라고 볼 수는 없습니다. 인간이 만든 도구이기 때문입니다. 그런데 이런 가설에 대한 반박도 존재합니다. "그러면 양자역학과 같이 인간의 생존과 관계가 없어 보이는 물리 현상까지 수학 법칙을 따르는 것은 어떻게 설명할 수 있는가?"라는 반박입니다. 양자역학의 세계는 우리가 인지하는 세계의 상식으로는 도저히 이해할 수 없는 일이 수도 없이 발생할 수 있는 세계인데, 인간이 생존을 위해서 발명해온 수학이라는 틀이, 인간의 인식 수준을 뛰어넘는 세계에서까지 잘 작동하는 것은, 수학이 인류의 발명품이라는 관점에서 껄끄러운 부분이기 때문입니다. 

 물론 아직까지 인류는 정답을 모릅니다. 그리고 아마 앞으로도 모를 가능성이 높습니다. 그리고 이 책은 그 정답을 찾기 위한 과정이 아닙니다. 다만, 저는 책이 도입부에서 던진 저 의문에 대한 나름대로의 추정을 해나가는 것을 독서의 방향으로 삼고 책을 읽어내렸습니다. 

 수학의 본질에 대한 의문은 곧 수학의 '실용성'에 대한 물음이기도 합니다. 보통 수학자들은 수학이라는 진리 그 자체의 아름다움을 목적으로 수학이라는 학문을 연구합니다. 그래서 수학자에게 위대한 발견의 '실용성'에 대해서 질문하는 것은 우문일 가능성이 높습니다. 대부분의 수학자들은 수학적 발견이 인류 삶에 기여하는 과정을 '우연성'에게 양보하고, 수학의 '아름다움' 그 자체를 탐닉합니다. 하지만 수학이 인류의 '발명'이라고 생각한다면, 수학은 그 자체의 아름다움만으로서 존재 의의를 다할 수 없다고 생각합니다. 물리현상을 보다 더 명확하게 설명하고, 이를 통해 인류 삶에 기여해야만 존재 의의를 갖습니다.

 이런 갈등은 수학과 컴퓨터의 관계에서도 엿볼 수 있습니다. 얼마 전까지만 해도 세계적인 수학자들 대부분은 컴퓨터를 사용하지 않았다고 합니다. '계산하다'라는 의미의 'compute'와 어미 '-er'이 결합되어 만들어진 'computer'라는, 이름처럼 계산하는 도구인 컴퓨터를 가장 관련성이 높아 보이는 수학자들이 사용하지 않았다는 부분은 일반인의 시각에서 잘 이해가 안 갑니다. 그런데 이건 사실 '수학'을 바라보는 일반인과 수학자들 사이의 괴리에 기인한 것이었습니다. '수학'이라는 학문을 바라보는 관점에 있어서, 일반인은 '계산'에 방점을 찍습니다. 대부분의 비전공자가 접하는 수학은 어떤 현상을 식으로 서술하고, 그 식의 해를 찾는 작업이기 때문입니다. 반면에 수학자들은 '생각'에 방점을 찍습니다. 계산은 그런 생각을 형이하학적으로 표현하는 방법론에 지나지 않습니다. 보통 수학과 학부 커리큘럼에 있어서 초반부가 이런 일반인의 보다 구체적인 '계산'으로서의 수학에서, 수학자들의 보다 추상적인 '생각'으로서의 수학으로 전환되는 과정이라고 생각합니다. 때문에, 단순히 계산하는 기계에 불과한 컴퓨터는, 수학자들에게 있어서 '멍청한 바보상자'에 불과했던 것입니다. 

 하지만 도구로서 수학을 바라보는 관점에서 컴퓨터는 어마어마한 잠재력을 갖고 있는 도구입니다. 위대한 수학자들의 발견을 통해서 우리는 초기 조건을 완벽히 알 수 있다면, 미분방정식의 해를 찾음으로써 어떤 물리현상을 정확하게 예측할 수 있습니다. 하지만 문제는 미분방정식의 해를 찾는 과정이 정말 더럽게 어렵다는 것입니다. 현실 속의 초기 조건은 아주 더럽기 때문에 거기서 도출한 미분방정식의 해를 찾는 것은 현실적으로 불가능한 경우가 대다수입니다. 그런데 문제는 그럼에도 불구하고 우리는 해를 찾아야만 한다는 것입니다. 일기예보 등 미래에 발생할 물리 현상에 대한 '예보'는 바로 그런 해를 찾아야만 가능하기 때문입니다. 

 그런데 우리가 알고 있는 방정식의 해를 찾는 방법은 논리적으로 해결하는 방법만 있는 것이 아닙니다. 학창 시절 보통 '노가다'라고 말하는 수치대입법도 해를 찾는 방법 중 하나입니다. 하지만 결국 논리적인 해를 찾는 것이 아니라 수치 대입을 통해서 해를 찾는 방법은 대부분의 경우 근사치를 구하는 것입니다. 그런데 책의 후반부에 나오는 카오스 이론 등을 통해서 알 수 있다시피, 초기 조건이 아주 미세하게 달라져도, 결과값은 어마어마한 오차를 갖게 되는 경우가 많습니다. 결국 우리는 '가능한 한 정확하게' 해의 근사치를 찾아야 합니다. 여기서 컴퓨터의 잠재력이 발휘됩니다. 컴퓨터는 엄청난 연산을 반복적으로 문제없이 수행할 수 있습니다. 이런 컴퓨터의 특성은 값을 아주 미세한 단위로 쪼개서 대입하고, 그 결과값을 바탕으로 다시 다른 값을 대입하는 과정을 통해서 비교적 오차가 적도록 해를 근사할 수 있는 배경이 됩니다. 이런 접근 방법이 공학에서 그토록 자주 사용하는, 수치해석(시뮬레이션)입니다.