이론과 실제
코시는 적분공식을 발견하고, 코시는 그것을 증명했다. 이 공식은 1변수 복소함수론에서 가장 중요한 정리이며, 이로인해 엄청난 발견들이 따라나온다. 재밌는 것은 루빌(Liouville)의 정리는 진짜 코시적분공식의 따름정리에 불과한데도 코시는 증명하지 못했다. 나중에 루빌이 증명한 걸 알고 엄청나게 화를 냈다는 일화를 들은 바 있다. 지금으로 보면 논리적 사슬이 너무나 자연스러운데 왜 이걸 코시는 증명하지 못했을까.
대부분 학부레벨에서 수학과목은 계산이라기 보다는 논리적인 면을 강조하는 경향이 있다. 여기서 말하는 계산은 수치적 계산뿐만 아니라, 기호 계산을 말한다. 직관적인 면을 최대한 배제하고 철저한 논리적인 흐름을 강조하는 면이 있다. 그렇기 때문에 학부 과목을 공부한다는 것은 어떤 의미에서 잘 짜여진 소설을 읽는 것과 같다고 생각한다. 왜냐하면 작가가 쓴 소설대로 모든게 잘 맞아 떨어지는 것 같이 보이고, 그게 완벽한 논리적 사슬이 있을것이라 생각하니까.
그러나 '어떤 것을 발견'하는 과정은 순탄한 과정만 있는 게 아니다. 결과가 완벽히 논리적 사슬에 의해서 나올 수는 있을지는 모르겠지만, 그 결과를 만들어내기까지 진흙탕속에서 뒹구는 모습을 싹 지우기 때문이다.
나는 내 전공계열이 해석학이라 그런지, '공부'하는 걸 '땅 파는 것'에 비유를 자주 한다. 포크레인으로 흙을 파면 흙을 파는 속도는 늘릴 수 있다. 삽으로 흙을 파면 속도는 당연히 더딜 수 있다. 이론을 이용해서 공략하는 것을 포크레인으로 공략하는 것, 삽으로 푸는 것을 계산을 이용해서 공략하는 것이라고 비유를 해보자.
각기 장 단점이 있다. 포크레인으로 파면 이미 알고 있는 것에 대해서는 빨리 걷어낼 수 있다. 이론으로 따지면 알고 있는 조건에 대해서는 모두 지워내는 작업이다. 그러나 이렇게 땅을 파다가 흙에 대한 새로운 발견을 하기가 쉽지는 않다. 즉, 단점은 그 안에서 어떤 상호작용이 실제로 어떻게 일어나는지 알아차리기가 쉽지 않다.
삽으로 파면 속도는 더딜 수 있다. 다만 이 지층이 어떤 구조가 있는지, 이 주변이 어떤 특성이 있는지 면밀한 분석이 가능하다. 그 안에서 어떤 일이 벌어지는 지 알 수 있다. 그런 면에서는 장점이 있다. 이미 알려진 발견일 가능성이 있겠지만, 직감을 통해 새로운 결과를 예측하고, 그 예측을 강한 계산력과 논리력으로 입증하는 게 결국 연구다. 그런 훈련을 학부 때 우리나라 학부에서는 하기가 쉽지 않다.
또 발견은 전혀 선형적이지 않다는 것은 경험적으로 직감할 수 있고, 많은 연구에 의해 입증이 되어있다. 수학쪽도 마찬가지다. 선형적이지 않은 연구결과들이 꽤 된다.
다시 말해, 이론은, 만들기까지 많은 계산과 실험이 있었고, 전혀 선형적으로 발전하지 않았다. 이 생각에서 벗어나기 위해서는 방법은 꼼꼼히 계산해보고 평소에 실험하는 습관을 가지는 게 중요하다고 생각한다.
현재 그에 대한 걸 조화해석학 세미나를 통해 절실히 느끼고 있다. 보통 우리가 실해석에서 르벡적분을 공부하고 르벡적분의 성질을 공부했지만, 그것을 이용해서 '어떻게' 계산을 '잘' 해야 하는지는 배우기가 어렵고, 그 예시 또한 찾기 어렵다. 또, 선형연산자의 노름을 구하기 위해서는 여러가지 전략들이 필요한데, 그 전략을 증명을 했지만, 그게 어떻게 작용되는 지는 스스로 해보지 않고서는 알아차리기가 쉽지 않다.
임의의 집합에 길이가 3인 등차수열의 존재성을 입증하는 것(Roth theorem)이 얼마나 어려운 문제인지는, 직접 푸리에 계수를 가지고 계산하기 전까지는 깨달을 수 없다. 그 문제에는 모든 수학문제가 다 엮여있다. 논리만으로 되는 문제가 전혀 아니다. 결국 계산력이 약하면 그 문제를 이해조차 못하고, 당연히 새로운 결과를 만들 수도 없을 것이다. 논리도 중요하지만, 더 중요한건 계산이다.