푸리에 해석과의 만남
어디서 찍었는지는 기억나지 않는다. 왜 파도가 치는 걸까? 궁금했던 내가 기억났다.앞선 글에서 말한 그 교수님의 권유로 2014년에 <푸리에 해석과 응용>이란 과목을 청강했다. 지난 학기의 마지막 수업에서 푸리에 급수의 $L^2$ 수렴을 강의하셨기에, 그 수학이 어떤 힘이 있는지 알고 싶었다.
수업 교재는 프린스턴에서 교과서로 사용 중인 Stein과 Sharkarchi의 Fourier Analysis라는 책이었다. 이 책은 무엇인가 알 수 없는 큰 줄기가 있고, 그 이야기를 독자가 따라가면서 익히는 책이었다. 처음에 푸리에 해석학이 어떻게 탄생했는지 설명하고, 주기함수에서 정의되는 푸리에 급수를 소개한다. 그다음에는 지난 학기에 매우 인상 깊게 들었던 푸리에 급수의 $L^2$-수렴이라는 것을 3장에서 다시 배우고, 지금까지 개발한 수단을 가지고 푸리에 급수의 응용들을 4장에서 살펴본다. 5장에서는 주기성이 없는 함수에 대한 푸리에 변환을 정의하고, 6장에서는 다차원 푸리에 변환을 소개하고, 7장과 유한 군에서의 푸리에 해석학을 소개하고, 마지막 장에서는 그 이론을 바탕으로 디레클레의 소수정리를 증명하는 걸로 마친다.
이 교수님은 한 학기동안 이 많은 내용을 열정적으로 수업을 했었다. 지금 생각해봐도 상식적인 속도도 아니었는데, 그때는 정말 내가 소화할 수 있을지 걱정하면서 , 어떻게든 연습문제 풀면서 수업을 따라가려고 노력했었다. 그때의 내가 이 수업에서 다룬 걸 다 이해했다고 생각하진 않는다. 그러나 이 책이 담고 있는 메시지가 너무 매력적이었다.
"3차원 공간의 점은 축을 세 개를 잡으면, 그 축을 바탕으로 점을 표현할 수 있다. 그게 바로 데카르트의 직교좌표계의 아이디어에요. 함수는 못 할 이유가 있니?"
이 개념으로부터 출발해서 함수를 무한개의 축을 바탕으로 쪼개버리는 아이디어. 나한테는 당시엔 충격적인 아이디어였다. 이미 다항함수들의 모임부터가 무한차원인데, 어떻게 그것보다 더 복잡한 함수를 간단한 함수들의 조합으로 쪼갤 생각을 하지? 그것도 신기하게도, 주기성을 갖는 함수라면 sin과 cos함수들의 적절한 가산합으로 표현한다는 발상은 너무나도 신기했다. 왜냐하면, sin과 cos함수는 주기성을 갖는 함수이고, 주기성을 갖는 함수는 결국엔 기본적인 주기성을 갖는 삼각함수들의 합으로 표현된다는 발상이 어떤 의미로 창의적이었으니까.
조제프 푸리에는 나폴레옹을 따라 아프리카에 출장을 간 후, 열 방정식을 유도하고, 그 열 방정식을 풀기 위해 새로운 수학을 만들어, 지금까지 내려온 푸리에 해석학을 만들었다. 조제프 푸리에의 새로운 수학은 많은 사람들이 납득할 수 없던 수학이었다. 뉴턴 역학을 새로운 언어로 재창조한 라그랑주(Lagrange)도 이해하지 못했고, 상미분방정식을 변환을 이용해서 풀어내는 기술을 만들었던 라플라스(Laplace)도 이해하지 못했다. 당시 수학자들은 이 결과를 인정할 수 없었다. 왜냐하면 푸리에는 연속함수가 아니어도 모든 주기함수는 삼각함수들의 적절한 무한합으로 표현할 수 있다고 이야기했었다. 당시에는 연속함수만 해석학에서 다룰 수 있는 함수로 인정했기 때문이다. 또한 저 주장은 모든 함수가 무한합으로 표현할 수 있다는 전제가 담겨있는데, 이 주장은 받아들여지기 매우 어려웠기 때문이다. 그럴만한 논리적인 증거가 부족했다.
사실 당시에는 푸리에의 이론을 이해할만한 논리적인 도구가 부족했다. 바이어슈트라우스의 극한의 엄밀한 정의도 없던 시절이고, 연속함수가 아닌 함수의 적분을 다룰 수 있는 르베그적분이론이 있던 시절도 아니었다. 그러나 그가 만들어낸 수학은 물리와 공학문제에서 너무나도 잘 적용되었기에, 이 수학을 버릴 수가 없었다. 시간이 흘러 코시, 디레클레, 리만, 힐버트 같은 수학자들이 새로운 수학을 만들어내며, 푸리에의 아이디어에 엄밀한 논리를 더했고 오늘날 이 수학은 조화해석(Harmonic Analysis)이라는 수학으로까지 발전을 했다.
나는 이 수업에서 배웠던 푸리에 해석이라는 그 도구가 다양한 수학에 적용되는 모습이 너무나도 매력적이었다. 동역학계의 기본문제 중 하나인 Weyl의 균등분포를 보며, 1차원의 세상에서는 보이지 않던 것이, 2차원을 바라보는 도구를 도입함으로써 문제의 아름다운 대칭성을 바라보는 경험을 했었다. 기하학의 고전적인 디도 여왕의 문제, "길이가 정해진 밧줄로 최대넓이를 가지는 도형은 무엇인가?"에 답하는 등주부등식 문제도 해결하는 것을 배웠다. 우리 일상에서 마주하는 열과 파동을 기술하는 방정식을 푸리에 해석으로 효과적으로 해결하는 것에 그 방법의 간단함에 놀랐었다. 마지막으로 전혀 상관없어 보이는 "10k+1 꼴의 소수는 무한할까?"라는 수론의 문제를 푸리에 해석학을 이용해서 해결해 낼 때, 큰 감동을 느꼈다. 이 많은 문제를 해결할 수 있는 푸리에 해석학의 힘을 보고, 당시엔 세상을 이해하는 근본 언어가 이런 수학이 아닐까 싶었다. 이 수학을 공부하면 많은 수학문제를 바라볼 수 있는 어떤 눈이 생길 거 같다는 생각이 들었다.
종강을 하고 나서 그 교수님 연구실에 찾아가서 감사하다는 말과 함께 교수님의 전공인 "조화해석"을 공부하려면 어떤 책을 순서대로 밟아가면 좋을까라고 물어봤었다. 그때 이후로 내 나름대로 조화해석학을 공부하기 위한 체력훈련을 시작했다. 그러나 그 수학을 하기 위해서 내 나름대로 노력을 했으나, 너무 어려웠다. 지금 돌이켜보면 객기였지만, 생각해보면 어떻게든 그 목표를 향해 달려나갔고, 학교 수업은 보조수단으로 삼고 나는 내 갈길을 향해 달렸다. 교수님들 오피스아워때는 그 수업의 내용보다는 더 앞서나가서 다른 책 연습문제를 풀면서, 그 연습문제의 뜻들을 교수님들께 설명들으며, 내 나름대로 내가 생각한 스케줄을 잘 따라갔다.
그렇지만 실해석학의 어떤 연습문제 하나에 제대로 막혀버렸고, 어떻게 풀어야할 지 몰랐다. 내가 있던 학교에 정말 수학에 열정적이고, 질문에 거부감을 가지지 않던 교수님이 있었다. 문제 하나가 너무 어려워서 도움을 구할 분이 그 교수님 밖에 없었다. 그때 메일을 보내고, 상담시간을 잡은 후 밤 7시에 연구실에서 만났다. 그때는 몰랐지만, 2015년 이래로 10년간 계속 같이 수학을 이야기하는 선생이자 동료를 찾은 순간이었다.
