brunch

라이킷 9 댓글

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by 서울대학교병원 Nov 25. 2022

수학은 우리 삶에 왜 필요한가?

백형렬 KAIST 수리과학과 교수

“어떻게 하면 그런 풀이를 생각해낼 수 있나요?”

미국의 코넬대학교(Cornell University) 수학과 대학원에서 미적분학 조교를 할 때의 일이다. 코넬대학교에서는 학생들의 수준과 관심 분야에 맞춰 다양한 종류의 미적분학 수업이 열리는데, 나는 그중 가장 높은 수준의 과목을 맡았다. 일반적인 미적분학을 넘어 선형대수학과 기초적인 미분기하까지 종합적으로 다뤘기에 연습 문제 중에는 처음 접하면 상당히 까다롭게 느껴질 법한 문제들이 종종 있었다. 내 역할은 학생들과 문제들에 관한 이야기를 나누고 어려워하는 부분에 대해서 설명해 주는 것이었다. 조교 일을 시작하기 전에는 문제의 해법을 생각하고 설명하는 것이 내 역할의 핵심이라고 생각했는데, 어려운 점은 의외의 곳에 있었다. 내 풀이를 들은 학생들이 종종 “어떻게 하면 그런 풀이를 생각해낼 수 있나요?”라고 물었기 때문이다.

문제에 대한 해법을 아는 것을 넘어 그 과정을 이해하고 싶었기에 나온 질문일 것이다. 학생의 질문에 답을 하려니 꽤나 곤혹스러웠다. 물론 원래 똑똑해서 문제의 해법을 떠올릴 수도 있다. 미적분학이 오랫동안 ‘수학 천재들의 학문’으로 여겨져온 이유도 아마 그 때문일 것이다. 하지만 수학이, 수학적으로 사고한다는 것이 우리 삶에 정말 필요하고 유용한 것이 되려면 해법을 찾는 과정 자체를 가르치고 배울 수 있어야 하지 않을까.

살아온 방식 자체를 유산으로 남긴 수학자, 윌리엄 서스턴

나는 이런 자세를 박사과정 지도교수인 윌리엄 서스턴(William Thurston)으로부터 배웠다. 그는 20세기 후반 최고의 기하학자 중 한 명으로 기하학 전반에 큰 영향을 끼쳤는데, 그중에서도 3차원 공간을 주로 연구했다. 서스턴 이전까지 3차원 공간과 관련한 연구는 전형적인 천재들의 전유물이었다. 수십 년간 해결하지 못한 문제를 똑똑한 사람이 등장해 기상천외한 방법으로 해결하고, 다음 대목에서 다시 막혔다 해결하기를 반복하며 발전해 왔기 때문이다.

그런데 서스턴 교수 등장 이후 3차원 공간을 연구하는 사람들이 폭발적으로 늘어났고 수많은 문제들이 동시다발적으로 풀려나갔다. 서스턴 교수가 3차원 공간을 이해하고 연구할 수 있는 새로운 방법과 수학적 도구들을 개발한 덕분이다.

이를 바탕으로 그는 스스로도 깊고 중요한 정리를 많이 증명하는 한편, 수학의 역사에 등장하는 천재들과의 차이점을 만들어냈다. 혼자 문제를 풀어나가는 데만 집착하기보다 새로운 사고 방법으로 만든 수학적 도구들을 널리 알리고 많은 사람들이 이해할 수 있도록 커뮤니티를 이끄는 것이 수학 전체의 궁극적인 발전에 도움이 되리라고 생각했고, 실제로 그렇게 살았다. 그 결과 공간을 연구하는 사람들의 사고방식은 자연스럽게 서스턴 교수의 방식으로 대체되어, 이전까지 사람들이 3차원 공간을 어떻게 이해했는지 상상하기 어려울 정도가 됐다. 그가 수학자로서 살아온 방식은 무엇보다 그가 증명한 수많은 아름다운 정리들보다 더 큰 유산으로 남았다. 모든 인간이 유한한 시간만을 산다는 점에서 서스턴 교수는 ‘시간’을 초월했다고 할 수 있을 것이다.

수학은 자연스럽고 논리적인 답을 찾는 과정

물론 “어떻게 하면 그런 풀이를 생각해낼 수 있나요?”라는 질문에 답하는 것은 여전히 쉽지 않다. 하지만 주어진 문제를 풀기만 하는 것이 아니라, 어떻게 구조화하고 어떤 사고의 흐름을 거쳐 어떤 방식의 해법들을 시도해야 하는지 논리적이고 자연스럽게 설명하는 것이 수학의 진정한 역할이라는 생각에는 변함이 없다. 여기에서 ‘자연스러운 설명’이란 듣고 나면 그렇게 생각하는 것이 너무 당연해서 ‘나는 왜 그렇게 생각하지 못했지?’라고 느껴지는 그런 설명이다. 실제로 수학은 인류가 던진 많은 질문들에 대해 자연스러운 동시에 논리적 허점 없이 완결한 설명을 하기 위해 발전해 왔고 앞으로도 그럴 것이다.

몇 년 전 서울대학교 의과대학에 계신 한범 교수님이 쓰시던 유전학 분야의 논문에 참여한 적이 있다. 대화를 나누어 보니 한범 교수님은 올바른 방향을 직관적으로 알고 계셨다. 내 역할은 그것이 수학의 언어로 엄밀하고 체계적으로 쓰이게 하는 것이었다. 수학적 사고가 의학 분야에서도 문제 풀이의 방향을 찾는 데 도움이 된다는 것을 눈으로 직접 확인한 소중한 경험이었다. 사실 수학자가 되기 위해 수학을 공부하는 사람들의 수는 극히 소수에 불과할 것이다. 그래서 나는 수학자의 한 사람으로서 수학적 사고가 더 많은 사람들에게 자연스러워질 수 있도록 지속적으로 공부하며 가르쳐 나가고 싶다.

백형렬 KAIST 수리과학과 교수

공간의 구조를 이해하기 위해서는 구조 자체에 대한 정적인 연구보다 시간의 흐름에 따른 동적인 변화를 살피는 것이 더 유용하다고 믿는 수학자.

KAIST와 코넬대학교(Cornell University)에서 수학을 전공하고, 독일 본 대학교(University of Bonn) 연구원을 거쳐 2017년부터 모교인 KAIST 수리과학과에 돌아와 재직 중이다.

4차원 이하의 저차원 공간에서 벌어지는 일들을 이해하기 위한 수학적 방법론을 연구하고 있으며 다양한 분야에서 수학적 사고를 적용하여 문제를 해결할 수 있도록 돕는 일에 관심이 있다.

서울대학교병원 매거진의 청탁을 받고, 오랜 세월 훌륭한 분들이 나름의 답을 해오신 질문에 내가 보탤 것이 있을까 싶어 자신이 없었다. 하지만 정답을 찾으려 들기보다는 그저 내 삶과 경험을 바탕으로 독자들에게 들려주고 싶은 이야기를 조금 꺼내 보았다.

keyword