수학공부의 추억

요즘은 겨울방학을 맞이하여 수학 공부를 조금 하고 있습니다. 수학의 함수 해석학을 공부하고 있는데요, 그것이 기계학습(머신러닝)에 많이 사용되는 수학이라 이번 기회에 좀 마음먹고 들어다보는 중입니다. 수학공부를 하면 높은 산에 올라가서 아래를 내려보는 것과 같은 느낌을 가질 때가 종종 있습니다. 워낙 추상화된 학문이라서 많은 문제들이 수학적 원리로 통일되어 설명될수 있기 때문입니다. 오늘은 한가로운 토요일이기도 하고 해서 저의 수학공부를 추억해 보려고 합니다. 

제가 수학에 눈을 뜨게 된 계기는 고등학교 1학년 겨울방학 즈음이었습니다. 그때 서울에 사는 어떤 친구에게 편지를 받았는데요, 그 친구는 머리가 좋았는데 가정사정상 자퇴를 하고 서울의 단과 학원 등을 다니면서 검정고시를 준비하는 친구였습니다. 그 친구가 편지에서 유명한 수학 강사의 강의 내용을 이야기해 주었는데 약간 충격을 받았습니다. 그 유명한 수학 강사는 자기만의 공식을 만들어 쉽게 푸는 방법을 알려주는 것이었는데 예를 들어 수열의 어떤 문제를 미분을 사용해서 푸는 방식이었습니다. 저는 그전까지는 문제 푸는 방식이 정해진 틀에 따라 해답을 이해하는 방식으로 공부를 했었는데 다른 방식의 공부법이 있구나 하는 것을 깨달았습니다. 그리고는 수학 공부를 다른 방식으로 하기 시작했습니다. 수학의 정석에 나온 해법말고 다른 풀이 방법이 없을까 하는 연구를 하기 시작한 것입니다. 고등학생이 수학 연구에 눈을 뜬 것입니다. 

제가 수학에 소질이 있어서 그런 건지는 모르겠지만 제법 소득이 있었습니다. 저 자신만의 수학공식을 만들어내기 시작했는데 그건 5분 걸려 푸는 문제를 30초로 단축시키는 결과를 가져왔습니다. 뭐 대단한게 아니라 자주 나오는 문제를 유형에 따라 과정을 생략해서 공식화한게 대부분입니다만 그런 공식화를 하는 노력 자체가 충분한 이해를 필요로 하니 공부가 저절로 되었던 것입니다. 수학시험에 20개 정도의 문제가 나온다고 한다면 그중 몇개의 문제는 그런 방식으로 시간을 단축하고 한두개의 어려운 문제를 남겨놓고는 20분 내에 다 풀고 나머지 30분간 어려운 한두 문제에 대해 충분히 고민하는 방식으로 시험을 보았으니 수학 성적이 나쁠수가 없었습니다. 그러다보니 자연스럽게 수학과 친해지고 저의 희망학과가 서울대 수학과로 잡을 정도로 수학을 좋아했는데 지금 생각해보면 수학에 대한 잘못된 이해에 기반한 것이었습니다. 고등학교에서 배우는 수학은 진정한 수학이라기 보다는 그냥 계산입니다. 대학에서 해석학 정도를 배워야 수학이 추상화 학문이라는 의미를 이해하게 됩니다. 

그런데 막상 대학에 진학해서는 공부에 별다른 흥미를 느끼지 못해서 수학을 제대로 공부한 기억이 없습니다. 돌이켜보면 그 당시에 허무주의에 빠진 것인데 과연 열심히 살 필요가 있나, 내가 공부하는게 무슨 의미가 있나 싶어서 수업도 잘 안들어가고 대학 시절을 시간을 낭비하며 보냈습니다. 그러다가 대학원에 가서 나중에 학문을 하기로 결심하고서 수학을 다시 들어다보아야 했습니다. 그래서 좀 제대로 공부한 시기는 대학원을 마치고 늦게 군대를 가서 방위 생활을 하면서 수학을 공부했습니다. 해석학 책을 공부하고 Royden 의 Real Analysis 를 독학으로 공부하면서 수학이 얼마나 아름다운 학문인가를 음미하기 시작했습니다. 두페이지에 이르는 증명이 복잡해 보이지만 그 증명을 이해하고 나면 그 증명의 어느 한줄도 뺄수 없다는 사실을 깨닫고 전율감을 느꼈습니다. 이는 마치 윤동주의 서시를 읽고나서 그 시의 어느 한 단어도 대체불가능 함을 깨닫고 느끼는 전율과 비슷할 것입니다. 

그래도 제가 가장 전율을 느꼈던 사건은 오일러의 공식을 접했을 때입니다. 대학 3학년때 들었던 복소해석학에서 지수의 위에 복소수 i 가 들어가는게 너무 충격적이라서 그날 저녁에 술을 진탕먹었던 기억이 있습니다. 아니 복소수가 어떻게 지수의 인자로 들어갈수 있단 말인가? 하늘이 무너진것 같은 충격이었습니다. 항상 수학을 벼락치기로 공부해서 겨우 C 를 받아내는 수준이었지만 그래도 그 충격은 아직도 기억이 납니다. 

암튼 방위시절 동안 실해석 공부를 어느 정도 마치니 유학을 가서 확률론이나 다른 이론과목을 듣는데 크게 어려움이 없었습니다. 그리고 저는 샘플링을 전공하겠다고 결심한 상태라 수학을 별도로 많이 들을 필요를 느끼지 못했습니다. 그러면서 필요한 수학을 틈틈히 찾아서 독학으로 이해하는 수준이었는데요 아무래도 제대로 공부하지 않아서 그런지 구멍이 좀 있는것 같습니다. 다행히 박사과정 학생 중에서 수학을 전공한 친구들이 있어서 그 친구들에게 수학 증명을 시키곤 했었는데 이제는 심리적으로 여유가 생겨서 다시 수학을 공부할 마음이 생기는것 같습니다. 수학이 처음에는 개념도 생소하고 추상적이라 어렵지만 자꾸 접하다보면 어느 순간에는 이해가 되면서 그게 나의 사고에 날개를 달아주는 느낌이 참 좋습니다. 그래서 수학을 공부하는 시간은 두렵지 않고 참 즐겁습니다. 제가 천국의 입구에 있는것 같은 즐거움을 주는 시간이 수학을 공부하는 시간입니다