골드바흐의 추측이란 “2보다 큰 모든 짝수는 두 소수의 합으로 나타낼 수 있다.”라는 수학적 추측이다. 추측이 맞는지는 수학적으로 증명이 되어야 한다. 증명이 되지 않는 이상, 우리는 그 추측이 맞는지도 틀리는지도 모른다. 예를 들어 4라는 짝수는 소수인 2를 두 번 더하면 되기에 맞다. 또한 8은 소수인 3과 5를 더하면 된다. 하지만 이러한 방법으로 이 추측이 맞는다는 것을 증명할 수는 없다. 왜냐하면 2보다 큰 짝수는 무한개이므로 이러한 방식으로의 증명은 전혀 도움이 되지 않는다.
얼핏 보면 이 추측이 맞는다는 것을 증명하기는 그리 어렵지 않을 것 같지만 결코 그렇지 않다. 역사적으로 가장 어려운 난제 중의 난제이다. 그동안 수많은 천재적인 수학자들이 이 골드바흐의 추측을 증명하기 위해 노력했지만 거의 모두 다 실패했다. 어떻게 보면 간단해 보이는 이 문제가 왜 그렇게 어려운 것일까? 수학은 무한대라는 것이 존재하기 때문이다. 또한 이러한 난제를 해결하는 것이 바로 수학의 본질이다.
수학에 있어서 골드바흐의 추측은 ‘리만의 가설’, ‘페르마의 마지막 정리’, ‘푸앵카레의 추측’과 함께 가장 어려운 난제로 알려져 왔다. 페르마의 마지막 정리는 1995년 프린스턴 대학의 앤드루 와일스에 의해 증명되었다. 푸앵카레의 추측은 2002년 러시아의 그레고리 페렐만에 의해 증명되었다. 골드바흐의 추측은 1742년 골드바흐가 오일러에게 보낸 편지에서 처음으로 제기되었다. 250년이 넘은 골드바흐의 추측은 이 소설이 쓰여질 당시까지는 증명되지 않았다. 이 오래된 수학적 난제는 2013년 헬프코트(Harald Helfgott)가 이를 증명한 것으로 인정받게 되었다. 150년 정도가 된 리만의 가설을 아직 증명되고 있지 않다.
아포스톨로스 독시아디스의 <그가 미친 단 하나의 문제, 골드바흐의 추측>이라는 책은 이 골드바흐의 추측을 배경으로 한 소설이다. 저자는 수학 석사 출신으로 영화감독이기도 하다. 이 소설에서 화자인 나는 골드바흐의 추측에 관련한 삼촌의 삶을 이야기하고 있다.
“아버지의 이야기를 들었을 때 나는 내심 초조했다. 그토록 유명한 ‘골드바흐의 추측’에 대해 아는 것이 전혀 없었기 때문이다. 하지만 당시의 나는 그것이 무엇인지 알고 싶은 마음이 거의 없었다. 나를 매료시켰던 것은 나한테 다정한데다 좀처럼 남들 앞에 나서지 않는 겸손한 페트로스 삼촌이, 인간이 품을 수 있는 최고의 야망을 실현하기 위해 끊임없이 노력했다는 사실이었다. 물론 삼촌이 그렇게 한 것은 심사숙고한 끝에 내린 결정이겠지만, 여태껏 살아오면서 내가 보아 왔던 사람, 그것도 나와 가장 가까운 혈육이 수학의 역사를 통틀어 최고로 어려운 문제를 푸는 데 일생을 바쳤다는 사실이 자랑스러웠다.”
소설에서 화자의 삼촌인 페트로스는 천재적인 수학자였다. 20세기 초반 당대 최고 수학자인 케임브리지의 하디와 리틀우드와 함께 정수론을 연구하던 중, 최고 난제인 골드바흐의 추측을 증명할 것을 평생의 목표로 삼아 10년 이상을 이 연구에 몰입하게 된다. 이를 위해 결혼도 포기하고 그 모든 것을 다 잊은 채 오직 골드바흐의 추측의 증명을 위한 엄청난 열정으로 살게 된다. 하디 밑에서 같이 공부했던 친구는 인도 출신의 천재 수학자 라마누잔이었다. 자신도 천재란 소리를 듣기도 했지만, 라마누잔을 보며 진정한 수학자는 하늘이 내리는 것이란 사실을 알게 된다.
“재능이야. 좀 더 확실하게 말하자면 타고난 천재성이지. 이 점을 명심해야 돼. 수학자는 태어나는 것이지 만들어지는 게 아니란 말이야. 만약 네가 부모에게서 수학에 대한 천재적인 유전 인자를 이어받지 못했다면 넌 평생 헛수고만 하다가 그저 평범한 인간으로 생을 마감하게 될 거야. 죽어라 애쓰면 뛰어난 범재는 될 수 있을지 모르지. 하지만 그래 봤자 범재일 뿐이야.”
삼촌인 페트로스는 24세의 나이로 뮌헨 대학의 수학과 정교수로 부임할 정도의 천재였다. 엄청난 열정으로 골드바흐의 추측을 위해 모든 것을 쏟아부었다. 튜링과 괴델의 출현에서 라마누잔의 천재성을 다시 접하게 되었고, 모든 것을 다 포기한 채 10년 동안 골드바흐의 추측의 증명에 매달렸지만 결국 성공하지 못해 커다란 절망에 빠지게 된다.
“위대한 수학자들이 위대한 문제를 풀려고 덤벼들 땐 수많은 수학적 성과들을 얻는 거야. 이른바 ‘중간 성과’라고 하는 것들이지. 처음에 풀려고 했던 문제들은 비록 해결되지 않은 채 남을 수도 있지만, 성과는 성과지. 이해를 돕기 위해 예를 하나 들어 볼까? 유한군이론은 갈루아가 일반적인 5차 방정식을 풀려고 하다가 얻은 결과지.”
비록 페트로스는 자신의 업적이 처음에 목표로 했던 것을 성취하지는 못했지만, 그 과정에서 나름대로 중요한 수학적 결과를 만들어낸다. 비록 그는 그것에 만족하지는 않았지만, 그의 노력에 의해 수학은 조금이나마 발전할 수 있었던 것은 사실이었다.
“보통 사람들은 수학자들에게만 허락된 그 특별한 즐거움을 결코 맛볼 수 없다. 맛보기는커녕 상상조차 할 수도 없다. 중대한 이론을 이해함으로써 깨닫는 진리와 아름다움의 조화는 그 어떤 인간 활동을 통해서도 얻을 수 없을 것이다. 신비주의에 휩싸인 종교적 체험이 아니라면 말이다. 내가 했던 수학 공부란 보잘것없는, 그러니까 거대한 수학의 바닷물에 겨우 발가락을 적시는 수준이었다. 그렇기는 하지만 그것은 더 높은 세계를 경험할 수 있는 기회를 주었다는 점에서 내 인생에 크나큰 자취를 남겼다. 그렇다. 그 짧은 경험으로 인해 나는 이상적인 세계의 존재를 조금이나마 믿고, 또 느낄 수 있게 되었다.”
골드바흐의 추측을 증명하기 위한 도전은 삼촌인 페트로스에게 새로운 삶의 경험과 세계를 접할 수 있게 해 주었다. 어떻게 보면 삼촌인 페트로스의 인생은 자신의 목표를 달성하지 못했기에 실패라 볼 수도 있을 것이다. 하지만 자신이 생각한 것을 이루지는 못할지라도 하나의 목표를 위해 끝까지 노력하는 그 열정을 실패라고 할 수는 없다. 학문이나 삶은 성공에 의해서 뿐만 아니라 실패에 의해서도 발전하는 것이기 때문이다. 실패해 보았기에 더 커다란 성공을 얻을 수도 있다.
삶은 안주하는 것이 아닌 도전이다. 비록 내가 꾸고 있는 꿈이 이루어지지는 않더라도 그 꿈을 이루기 위한 나의 열정은 나의 존재 그 자체라 할 수 있다. 이루지 못해 절망을 할지라도 그 도전은 현재의 나를 더 나은 미래의 나로 이끌 수 있다는 것은 너무나 분명한 사실이다. 그래서 도전은 아름다운 것이며, 박수받을 수 있는 것이 아닐까 싶다. 위대함은 도전에 있는 것이지 안주에 있는 것이 아니다. 열정과 절망 사이에 진정한 우리의 삶이 존재한다.