수학증명의 탐미, 무가치함과의 싸움

무스캣 연구하면서 나온 부등식 계산이다

수학이랑 예술과는 큰 차이가 없어 보일지도 모른다. 수학이란 학문은 논리성을 최고로 지향하며 어떤 감정적인 것도 개입하면 안 되는 분야처럼 보인다. 예술은 반면 직관적인 이해를 넘어선 그 무엇인가를 탐구하는 것, 아름다움을 추구하기도 하지만, 불편한 마음을 직시하게 하는 거울의 역할도 한다. 그러나 수학자들 발표에서 자주 사용하는 문장으로는 의외로 "아름다운 증명", "아름다운 정리", "감동스럽다", "매우 멋지다"들이 있다. 그럼 무엇이 수학의 아름다움을 결정할까? 어떤 사람은 간결한 증명을 선호할 것이고, 어떤 사람들은 매우 큰 이론의 하나의 부분집합으로 바라볼 수 있게 될 때 아름다움을 느끼기도 한다.

내 스스로 돌이켜보면, 두 가지 조건을 만족하면 수학에서의 아름다움을 느끼는 것 같다. 나는 물리학, 또는 공학에서 유도된 편미분방정식을 연구한다. 특히 브라운대학교에 유학 온 이후부터 내 연구결과가 과연 물리적 현상의 실체를 잡을 수 있는지, 그리고 그 물리적 실체를 잡아내기 위해 나름대로 자연스러운 시선이 있는지를 고민하고 있다. 내 여러 연구주제들 중에는, 우주에 있는 별이 어떻게 평형을 이루어 나가는지, 아니면 플라즈마가 어떤 움직임을 장시간 거동으로 볼 수 있는지, 그리고 모래속에 있는 기름이 건조한 영역에서 어떻게 움직이는지 그런 문제를 다룬다. 현상은 존재하나, 그 현상을 명확하게 규명할 수 있는 언어를 만드는 과정이 수학을 연구하는 거라고 생각한다. 뭔가 납득할만한 설명이 나오지 않으면, 그건 좋은 연구가 아니라는 나만의 기준을 하나씩 잡아나아가고 있다.

또 하나는 증명이 인위적이지 않지만, 뭔가 독특한 비틀기가 있을 때다. 수많은 연극에서 사랑이라는 주제를 다루지만, 어떻게 사랑이란 주제를 다루느냐에 따라 매우 흥미로운 작품이 될 수 있고, 매우 지루한 작품이 될 수 있다. 그 비틀기가 우리가 이전까지 생각해보지 못했던 이면을 바라볼 수 있다면, 그건 매우 아름다운 생각이 될 수 있다. 이건 최근에 내가 무스캣 문제라는 문제를 공략하면서 이걸 발견했을 때 너무 좋아서 "매우 놀랍게도"라는 부사를 썼었다. 원래 무스캣 문제에 표면장력 효과를 고려한다면, 확산이 너무 강해져서 극대원리라는 좋은 도구를 쓸 수가 없다. 특히 극대원리가 없기에 이 함수의 나쁜 행동이 나올 수 있는 여지를 제거할 방법이 마땅치가 않았다. 극대원리를 사용할 수 없다고 생각한 순간, 다른 논문을 읽어보며 그 문제가 되는 항을 압력항으로 바라보는 관점을 배웠다. 처음에는 이해할 수 없었지만 나중에 더 생각해보니 매우 자연스러웠다. 압력 그 자체는 다루기가 어렵지만, 그 압력이 가져오는 극대원리로 이 문제가 원래 내재하고 있던 문제를 우회할 수 있었으니까.

아마 연극, 뮤지컬, 그리고 영화를 보면서, 그리고 에세이 작법을 배우고 난 후에 논문의 서론을 쓰거나 수업을 시작할 때 보다 더 벅찬 마음으로 설명하고 있다. 문제를 푸는 과정을 설명할 때도 왜 이 이론이 나왔는지, 그 이론을 도입하기 위한 고민을 이해하는 과정을 거친다. 그 벅참이 나오지 않으면 나는 발표하는 재미를 잃어버리고, 그건 청중도 분명히 느낀다. 아마 일반적인 설명은 이젠 AI가 더 잘할지도 모르나, 그 스토리를 만들어가는 과정, 그리고 현상을 이해하는 관점의 그 감동은 사람이 쓰거나 설명하는 것에서만 온다고 믿는다. 오랜 시간동안 극장예술이 지금까지도 살아남는 건, 그 현장에서의 생동감을 느끼고 싶은 마음이 아니었을까 싶다. 아마도 내가 근래 수학을 할 때 다른 종류의 아름다움을 느끼는건, 철저히 이성적인 언어로 쓰려고 노력하는 논문들이지만, 그 문제를 풀기 위해 고민한 흔적을 역추적하는 사람의 고민을 헤아려보는 재미때문에 좋아했을지도 모른다.

미국 와서 근래 아쉬운 거라면 술마시면서 이런 이야기를 할 수 있는 동료들은 생각보다 적다. 다들 사는 일이 바쁘기도 하고, 각자의 이유로 대화하는 시간이 거의 없기 때문이다. 타 전공자들에게는 수학을 가지고 설명하면 그 구체적인 실체를 다루지 않고 추상적으로 이야기해야 하기 때문에 또 어렵다. 사실 언제든지 아무 이야기나 하자고 하면 난 어떤 것이든지 이야기할 수 있는데, 몇몇을 제외하고는 사람들은 나랑 대화하는 걸 좋아하지 않는 것 같다는 생각도 한다.

근래 넷플릭스에 연재되기 시작한 "모두가 자신의 무가치함과 싸우고 있다"라는 드라마가 있다고 한다. 사람들이 많이들 이 드라마를 언급하고 있다. 나도 그 드라마 시리즈에 대한 감상평을 보고, 이 글을 쓰기 시작했었다. 넷플릭스 구독을 하지 않아 못 보고 있지만, 저렇게 생각을 많이 해도 사람들이 어떤 이야기를 하고 싶을지 짐작을 하지 못해 스스로에게 무가치함을 느껴서 이 생각을 하는걸까. 아직 답을 명확하게 못 찾겠다. 왜 저 드라마에 대한 생각에서 이 글이 시작되었는지.