밑바닥부터 의심하라

한라산에서 찍은 제주시로 보인다

대학교 수준에서 수학을 배울 때 마주하는 제일 힘든 첫 번째의 벽은 "쓰는 모든 것을 의심하는 것"이다. 그간 초, 중, 고등학교에서 배운 나의 수학지식을 모두 의심해야 하는 시기가 필요하다.

- a가 실수이면, a^2은 음이 아닌 실수이다.

- a>1이고 x,y가 실수일 때 지수법칙 a^{x+y}=a^x a^y이 성립한다.

고등학교까지 이 명제들을 받아들이기만 할 뿐, 증명하진 않는다. 그렇지만 대학교 이상 레벨에서는 이 명제들은 무비판적으로 받아들이는 것이 아닌, 증명을 해야 하는 명제다. 이러한 이유때문에 수학을 좋아해서 수학과를 선택한 사람들은 80% 이상 수학과가 아닌 다른 진로를 찾는 경우가 부지기수고, 대학레벨에서의 수학을 좋아해서 대학원에 갔지만, 새로운 벽을 마주해서 그만두는 사람도 흔히 볼 수 있다.

안다는 것은 무엇일까? 앎은 남에게 어떤 핵심지식이나 감정을 다른 사람의 수준에 맞게 이해할 수 있게 설명할 수 있을 때 비로소 완성된다고 생각한다. 유명한 물리학자 파인만은 어떤 기자가 '자석의 N극과 S극은 서로 왜 끌어당길까요?'라는 질문에 답하는 영상이 있다. 파인만은 그 질문에 대해서 상대방이 어디까지 아느냐에 따라, 답의 방향이 달라진다고 말한다. 그렇지만 청중의 수준에 맞춰서 내가 전달하고 싶은 핵심내용을 자유롭게 잘 전달할 수 있으면, 그게 비로소 어떤 내용을 설명할 수 있다고 생각한다. 상대방과 소통을 할 수 있을 때 그 지식은 교과서에 죽어버린 것이 아닌, 살아있는 지식이 된다.

그렇지만 엄청난 대가들이 가끔 상대방이 이해하지 못하는 설명을 할 때가 있다. 지난 글에서 푸리에는 모든 주기함수를 삼각함수의 무한급수로 전개하는 기발한 아이디어를 제안했으나, 그 아이디어는 당대에 수학적으로는 받아들여지지 않았다. 후대 수학자들이 그 수학을 받아들일 수 있는 언어를 만들기 위해 노력해 왔었다. 수학에서는 직관적으로 던진 말이 틀려 보일지라도, 그 안에 담긴 '수식의 논리'를 헤아릴 수 있다. 내가 이 명제를 이해 못 하는 건지, 아니면 이 명제가 틀린 건지 끊임없이 자문하며 주변 동료들과 토론하며 검증할 수 있다. 이런 면 덕분에 수학이 2000년 이상 바라보는 관점이 달라지는 상황은 생겨도, 학문의 근간을 뒤흔드는 일이 다른 분야보다는 적다.

나는 대학교에서 5학기까지 있으면서, 우리학교에 있던 수학과 과목의 핵심과목들을 이미 다 이수했었고, 학점도 꽤나 우수했다. 한 때 다른 사람과 경쟁적인 마인드가 있었지만, 대학교 2학년 때 어떤 교수님이 '학점 신경 쓰지 말고, 알아가는 과정에 중요하게 생각해라'라고 나에게 따로 말해주셨기에 그 마인드는 내려놓은 상태였었다. 처음에 새로운 수학을 배워도, 조금 헤맬지언정 어떻게든 그 내용을 정복해 나가며 앞으로 나아가고 있었다. 평소에 공부는 120% 정도하고 있었으니, 시험기간에 내 원래 공부는 그만두고 시험에만 집중해서 학점을 사수하는 걸 보고, 나는 내가 학부에서 배운 과목들을 잘 알고 있다고 생각했다.

K 교수는 세미나를 통해 Stein의 "특이적분과 함수의 미분적 성질에 관하여(Singular integrals and differentiability properties of functions)"을 읽어나가겠다고 했었다. 나는 다른 학교 학생들과 세미나를 하면서 나름대로 세미나라는 포맷에 익숙했다고 생각했다. 뭐 큰 차이가 있겠느냐, 내가 이 내용을 이해하기 위해 여러 책을 보아가며, 강의노트를 만들었다. K 교수는 오후 2시부터 강의실에서 만나자고 했다. 그 한 꼭지를 잘 설명해 보라고 했다.

7월부터 그 세미나를 시작했다. 첫 내용은 Lebesgue 미분정리다. 내가 따로 공부해 왔던 Stein의 실해석학 3장의 내용이라 딱히 어려울 게 없었다고 생각했다. 분필을 잡고 칠판에서 논리를 하나씩 전개했다. Hardy-Littlewood 극대작용소의 약-(1,1) 추정을 어떻게 얻을지에 대한 논의가 그 날의 핵심 주제였다. 나는 책에 있는 논리 이전에 어떻게 Hardy-Littlewood가 증명했는지를 알고 싶어서 1차원 버전의 증명을 들고 갔었다. Rising sun lemma을 이용해서 증명을 한 것이었기 때문에 어렵지 않다고 생각했다.

"네가 쓴 Rising sun lemma의 설명이 되게 부족한데"

K 교수가 한 말이 모든 것을 무너뜨리기 시작했다. 나는 이 발표내용을 잘 안다고 생각했는데, 이 보조정리의 설명이 부족하다는 걸 그때는 알지 못했다. 교수는 이 정도면 알겠지 하고 넘겼지, 명제의 설명이 부족하다는 걸 의심해 본 적이 없었다. 왜냐하면 참고한 책은 엄청난 대가가 쓴 책이니 의심을 하지 않았다.

어찌어찌 세미나에서 같이 메꾸기도 했지만, 4시간 동안 그 교수님 앞에서 내가 안다고 생각하는 걸 설명하는 건 정말 쉽지 않았고, 내가 생각했던 진도의 반도 못 끝냈었다. K 교수는 그것 말고도 세미나를 하면서도 내가 전개하는 논리의 빈틈을 매섭게 발견하고 멈췄다. 질책을 한 적은 없었다. A4 종이 한 장과 펜을 들고 세미나장에 들어오면서, 내가 발표하던 걸 지켜보는 중에 턱을 괴면서 웃으면서 "아닌데?"라고 내 발표를 멈출 때가 제일 무서웠다. 침묵으로 내가 어디서부터 모르는 건지 심연을 바라보게 만들었다. 그리고 그 대답을 메꿀 때까지 30분이던 40분이던 기다렸다. 당시에는 정말 왜 이렇게 나를 힘들게 하나 하고 울고 싶었지만, 그게 나중에는 나를 강하게 만든 순간이었다.

그 책의 원하는 목표까지는 끝내지 못했다. 그다음에는 한번 편미분방정식을 공부하자고 해서 Krylov의 Lectures on elliptic and parabolic equations in Sobolev spaces를 보자고 했었다. 원래대로라면 보통 교재인 Gilbarg-Trudinger의 elliptic partial differential equations of second-order를 보려고 했지만, 그때 친하게 교류하던 타 대학의 L 박사의 권유로 Krylov의 교과서를 보자고 K 교수에게 제안을 했었다.

Krylov이 쓴 그 교재는 되게 거칠게 쓴 책이다. 첫 장부터 "네가 이 말을 이해할 수 없으면 감히 내 책을 읽지 말라"라는 느낌으로 증명을 전개하는 것부터 큰 벽이었다. 그간 공부했었던 조화해석학이라는 방법론을 바탕으로 편미분방정식의 해의 $L_p$ 추정을 얻어내는 걸 목표로 하는 책인데, 조화해석학 도구로만은 얻어낼 수 없는 정칙성을 얻어내는 과정을 보면서 여기서 편미분방정식 이론의 묘미를 경험했다. 해 자체의 추정을 얻어내는 건 조화해석학의 도구로 분석을 할 수 있었지만, 해의 성질을 더 끌어내는 건 편미분방정식의 한 해라는 더 특별한 구조 덕분에 이끌어낼 수 있고, 그 해의 성질을 끌어내기 위해 여러 가지 아이디어를 총 동원하는 게 마음에 들었었다.

대학교 1학년 때 최진석 교수의 철학산책의 두 번째 독서퀴즈가 생각이 났었다. 그때 박이문의 둥지의 철학을 읽게 했었는데, 쉽진 않았지만 그 책에서 말하고자 하는 바는 명확했다. 지식은 완전하지 않고, 새의 둥지와 같다. 새의 둥지는 잠시 포근하게 살 수는 있지만, 둥지는 때가 되면 허물어야 하고, 절대적인 진리는 없다. 기존의 둥지가 부족하면 그 둥지를 허물고 새로운 둥지를 지어야 한다. 당연히 이 과정은 매우 고통스럽고 불안할 수밖에 없다. 오랫동안 익숙했던 사고방식과 믿음을 버려야 하니, 쉬울 수가 없다. 그러나 이 둥지를 부수는 것이 끝이 아니라, 그 폐허 위에서 새로운 둥지를 만들어 나아가야 한다. 이 수업을 들은 지 2년 후에 세미나를 거치면서 몇 번의 둥지를 만들어 내고 허물었는지를 모르겠다. 그렇지만 그 과정이 결과적으로는 나에겐 큰 도움이 되었다.

아마 이 두 번째 책을 마무리하던 그 시점에 내가 하고 싶은 전공이 편미분방정식이라는 생각에 확신이 들기 시작했었다. K교수님께 학생이 될 수 있냐고 물어봤었다. 흔쾌히 받아주며, 서로 이제 선생님과 제자가 된 순간이었다. 그리고 석사과정에 들어가서 같이 어떤 문제를 할지 계속 탐구를 해봤지만, 별다른 소득이 없었다.

여름휴가를 가기 전에 교수님으로부터 이메일이 왔다.

"이 논문이 나왔는데, 이걸 보면서 과거에 내가 썼던 논문이 생각난다. Jerison과 Kenig이 썼던 1995년에 전설적인 논문이 있다. 내가 2011년에 그 논문에 관련된 걸 하나 쓴 게 있는데, 2015년에 나온 내가 쓴 논문의 주제를 저 세팅에서 확장해보자."

문제가 마음에 들었다. 상당히 자연스러운 세팅이었고, 내가 그간 공부했던 조화해석학의 지식을 익혀야만 볼 수 있던 논문이라 그간 배운 걸 점검할 기회도 있었다. 무엇보다 2015년에 다 읽지 못했던 그 책의 마지막 장, 세미나를 시작하게 된 계기였던 Stein의 도메인 확장정리를 이해해야 시작할 수 있는 연구라, 다시 새로운 마음으로 시작할 수 있다는 장점도 있었다. 제주도에 일주일간 휴가를 보내기로 했는데, 덩달아서 Stein의 책을 들고 가며, 그 프로젝트를 할 수 있는 체력도 쉬면서 길렀다.

그리고 그 문제를 풀어나가는 과정은 전혀 쉽지 않았고, 그 문제에 관련하여 2018년 초부터 2022년 초까지 4년간 여러 번의 거절과 지난한 기다림이 있을 줄은 그땐 몰랐다.