나는 왜 수학을 하기 시작했던 걸까?

Sep 9. 2025

사진은 누구에게 내가 공부했던 연구결과에 대해서 소개했을 때였다.

내 수학은 여기서 시작했다.

2015.7.1.

내가 가지고 있는 수학책, Stein Sharkarchi,Fourier Analysis에 있는 첫 페이지에 내 손으로 적은 문장이다.

2012년부터 수학 전공을 시작했고, 2014년부터 내가 좋아하는 수학 분야를 알게 된 후, 어느덧 11년이 지났다. 지금은 편미분방정식으로 학위를 받으려고 공부하고 있다. 그러나 내가 고등학교 때까지 수학을 좋아하지 않았다고 말하면, 다들 매우 놀란다. 그런 사람이 어쩌다가 수학으로 박사과정을 하고 있다는 건 전혀 이해가 가지 않을 테니까.

나는 구구단도 늦게 외워서 혼나본 적도 있고, 지금도 16-9를 하려고 하면 조금 생각한 뒤에 7이라고 겨우 말한다. 아직도 두 자릿수 뺄셈도 가끔 헷갈릴 때가 있다. 고등학교 때 수능 수학을 아무리 공부해 봐도 1등급을 맞아본 적도 3년간의 그 수많은 모의평가에서도 한두 번쯤 했나. 고등학교 1학년때 4등급에서 아마 2등급까지 점진적으로 올라가 봤지만, 1등급은 어떻게 해도 안 되는 영역이었다.

고등학교 때 좋아했던 과목은 근현대사, 물리, 그리고 생물이었다. 근현대사를 좋아한 이유는 어떻게 해서 조선이 쇠락하고 멸망하며, 일제강점기를 지나, 한국전쟁을 거치고, 나는 당연하게 여기고 있는 대한민국이 지금까지 온 과정을 배울 수 있어서 좋았다. 물리는 세상이 어떻게 돌아가는지, F=ma라는 수식을 이용해서 설명하려는 모습이 좋았고, 생물은 아버지가 미생물을 연구했어서 그런 건지, 그 작은 생물이 세상의 유용함을 만들어냈던 것이 신기했다. 특히 아버지가 산업 쪽에서 미생물을 이용해서 환경정화를 하는 것을 보고, 과학자로서 우리가 살아가는 세상에 무엇인가 기여할 수 있는 사람이 되는 것이 의미 있겠다는 생각을 했었다.

반면에 수학은 나에겐 대학을 가기 위한 조건으로서 좋은 점수를 받아야만 하는 장애물일 뿐 그 외에는 나에겐 아무 의미도 없던 과목이었다. 시험문제는 무슨 의미인지도 모르겠고, 왜 이런 문제를 공부해야 하는지 전혀 이해가지 않았다. 고등학교 책에 있는 실생활의 응용문제는 전혀 와닿지도 않았고, 흥미도 없었다. 이런 사람이 어쩌다가 13년이 지나 편미분방정식을 전공하고 있는 박사과정이 되었는지는 고등학생 때 나는 전혀 이해하지 못할 거다. 왜 그때는 흥미가 없었을까?

어렸을 때부터 나는 관찰력이 매우 좋았다고 하더라. 3살 때 하루에도 몇 번씩 라이언킹 영화를 한국어 버전, 영어 버전을 번갈아서 보고, 장학퀴즈 쇼를 보고, 지하철의 전광판을 보면서 한글을 익혔다고 했다. 아주 옛날에 전철 노선도도 열심히 그려가면서 어떤 역에서는 어디 출입문이 열리는지까지 어렸을 때 기억했다고 한다. 레코드판에서 조용필 노래를 듣고 싶어서 바늘로 정확하게 원하는 노래를 찾았다고 하고, 엄마가 전화 거는 걸 관찰해서 4살 때쯤에 할아버지에게 전화를 매일 밤마다 걸었던 적도 있다고 했었다.

중학교 3학년, 고등학교 1학년 때 주말마다 서울대에 열렸던 과학캠프 강의를 들었었다. 그때 수학 교수들이 강의했던 건 그때의 나에겐 정말로 재미가 없었다. 한 분은 암호학을 보여줬고, 한 분은 동역학계를 강의했던 것 같다. 그때 그 강의들이 재미없었던 건 아무래도 생물강의나 화학강의가 너무나도 멋진 사진과 함께 이해하기 쉬운 주제로 교수님들이 강의해서 그랬던 것 같다. 그리고 내가 그 수학을 이해하기에는 아는 것이 너무나도 없었다. 맥락도 없었고, 미적분학도 모르는 고등학생에게 무엇을 전달할 수 있었을까?

그러다가 고등학교 3학년 9월 모의평가를 망치고, 우연히 들었던 EBSi 수학 인터넷강의를 들으면서, 수학에 대한 관점이 조금씩 바뀌기 시작했다. 그 선생님은 강의에서

"수학은 외우는 게 아니야. 유형 그딴 게 어딨니?"

라고 말했을 때 그간 내가 고등학교 3학년때까지 내가 생각했던 수학에 대한 관점이 조금씩 바뀌기 시작했다. 나는 수학문제를 푸는 게 어려워서, 문제를 유형화했었다. 그렇지만 본질을 깨닫지도 못하고, 유형으로 문제들을 분류를 하니, 어떻게 그 문제에서 묻고자 하는 걸 파악할 수 있었을까? 아무튼 막판에 재미를 조금씩 느끼기 시작했으나, 그러기에는 너무 늦었다. 수능성적은 기대한 만큼 나오진 못했고, 난 재수를 결심했었다.

그때 웃긴 건 수능이 끝난 후 바로 대학교 미적분학 교과서를 샀었다. 그때 고등학교 교과서에서 극한의 성질의 증명을 '대학과정이므로 생략한다'라는 말이 나를 자극했던 것 같다. 그렇게 수능강사들이 로피탈의 정리 쓰지 마라고 말할 때 '왜 그걸 사용하지 말아야 하나?'라는 생각이 들어서 미적분학 교과서를 뜯어보면서 공부했던 기억이 난다. 수능 끝나고 그 책을 사서 볼 생각을 했다는 것부터 나는 참 이상한 사람이었다.

재수를 하면서 수리논술 수업을 들었었다. 어떤 명제가 있고, 그 명제가 참임을 논증해 나가는 재미를 알게 되었다. 그때부터 다시 고등학교 교과서도 뒤져보면서 공부를 다시 해보니, 증명이라는 맛을 그때서야 깨달았다. 고등학교에서는 이상하리만큼 증명을 잘 배우지 못했거나, 좋아하진 않았었다. 그건 생각해 보면 수능문제를 풀기 위해서 유형화된 문제집을 푸는 것에만 집중했던 기억이 난다. 증명은 수능에 나오지도 않는 건데 뭐 하러 공부하나? 했었던 기억이 난다. 아마 고등학교 때 하이탑이라는 과학 참고서는 재밌게 공부했지만, 수학의 참고서는 그만큼 재밌었던 기억이 별로 없다. 다 유형만 이야기할 뿐, 재미있는 이야기는 하나도 없었다. 그러고 나서 학원선생들에게 문제를 만들어가서 개념을 물어보는 질문들을 했던 거 같은데, 어떤 학원선생이 나보고 "정말 미묘한 거 잘 물었어. 너 수학이 너무 깊어. 그러면 수능수학 못한다야"라고 했던 기억이 난다. 어떤 수학선생에게도 내가 들어보지 못한 칭찬이었다. 그때부터 뭔가 수학을 제대로 공부하고 싶은 생각도 들었다.

대학교에 진학한 이후, 집합론, 선형대수학 수업을 듣긴 했는데 처음에 그렇게 재미가 있진 않았다. 집합론은 너무 당연한 소리를 너무 질질 끌어가는 것이 별로였고, 선형대수학은 처음에 내가 원했던 수업을 수강하지 못해서 아쉬웠기 때문이다. 그렇지만, 선형대수학 수업에서 교수님이 정말 열정적으로 행렬식을 엄밀하게 정의해서, 모든 정리들을 쉽게 증명해 낼 때 희열을 느꼈다. 어떤 구체적인 수학적 대상을, 더 큰 구조를 바라봐서, 조망하는 것을 보고 아주 감명이 깊었다. 마치 <학문의 즐거움>을 쓴 히로나카 헤이스케가 말한 "부처의 눈에서 한 점을 보면 그건 꼬여있는 것이 아닐지도 모른다."라는 말을 조금이나마 경험했던 순간이 아니었을까?

옆 학교에 정말 열정적으로 수학을 가르치는 교수님이 있다고 해서, 그 분의 해석학 수업을 청강하러 다녔다. 10년이 지난 지금도 그분의 첫마디가 기억이 나는데, "여러분들, 기초체력 훈련만 하면 재미없잖아. 한번 볼을 차야지! 우린 기말 때쯤에 푸리에 급수의 수렴성을 향해 달려갈 겁니다!"라는 말을 했었다. 그 수업을 끝까지 청강하고 교수님께 감사의 인사를 드리니 "푸리에 해석 다음 학기에 내가 수업하니까 그것도 꼭 들으러 와"라고 했었다. 어떤 세계가 있을지 궁금해서 다음 학기에 청강을 했다. 이 선택이 그간 10년 후에 미국까지 건너와서 수학 박사과정을 밟게 된 근원적인 선택이었다.