그가 미친 단 하나의 문제, 골드바흐의 추측

날고 싶다. 그것이 잔혹한 불빛 앞에 놓인 나방의 날갯짓일지라도.

<그가 미친 단 하나의 문제, 골드바흐의 추측>

아포스톨로스 독시아디스

한동안 수학에서 해결하지 못한 가장 유명한 문제는 다음 세 가지였다. ①페르마의 마지막 정리, ②리만의 정리, ③골드바흐의 추측. 리만의 가설은 양자역학의 연구 성과와 맞물리면서 증명에 한 걸음 다가서는 중이다. 골드바흐의 정리는 아직도 미궁 속에 빠져 있다. 페르마의 마지막 정리의 경우, 페르마 자신이 정리를 세상에 내놓았을 때부터 이미 ‘신비로운 해법’이 존재했다. 페르마는 자신이 남긴 메모에 '놀라운 증명법'을 발견했고, 해당 메모에는 지면이 좁아 다 적을 수 없다고 적었지만 그 어디에서도 증명은 발견되지 않았다. 후대 수학자들의 연구로 1993년이 되어서야 증명되었다. 페르마가 메모에 남겼던 신비로운 해법이 진짜 존재했는지에 대하서는 ‘불확실하다'는 것이 역사의 판단이다. 페르마는 정말 그 증명법을 발견했을까? 아니면 허풍이었을까?

<그가 미친 단 하나의 문제, 골드바흐의 추측>은 수학의 최대 난제인 ‘골드바흐의 추측’을 풀기 위해 자신의 삶을 바친 외로운 수학 천재 페트로스 삼촌에 관한 이야기다. 페트로스가 골드바흐의 추측에 도전하기로 결심한 것은 첫사랑인 이졸데 때문이었다. 연상인 이졸데는 페트로스의 가슴에 사랑의 불을 지펴 놓고는 야속하게도 젊은 장교와 결혼한다. 페트로스는 세상 사람들이 깜짝 놀랄만한 성공스토리를 만든다면 그녀에게 자신의 존재를 다시 각인시킬 수 있다고 믿었다. 골드바흐의 추측을 증명하는 일은 수학 천재인 자신에게 마치 숙명처럼 다가왔다. 주위에서는 무모한 도전이라며 말렸지만 그의 마음을 돌릴 수는 없었다. 물론 수학자를 포함한 과학자들은 새로운 발견에 목을 맨다. 성공의 영광을 제일 높은 자리에서 독차지하려고 한다. 그것을 탓하자는 것이 아니다. 인생 전체를 바친 도전이 실패하고 그 실패가 삶의 실패로 이어진다면 시작은 열정이었지만 결과적으로 오만했다는 죄목의 멍에를 짊어져야 한다. 오일러와 가우스조차 이루지 못한 일을 하려고 했으니…

인간은 누구나 자신의 선택에 대해 절망할 권리가 있다. 다만 그 절망의 무게를 견디기 위해서는 다른 방어기제가 필요하다. 자기 합리화도 그중의 한 방법이다. 페트로스는 골드바흐의 추측을 증명하는 데 실패했다. 페트로스의 입장은 다르다. 실패라기보다는 운이 없었다는 것이다. 자신이 골드바흐의 추측을 증명하지 못한 것을 괴델의 ‘불완전성 정리’ 탓으로 돌렸다. 불완전성 정리는 ‘참 명제라고 해서 항상 증명 가능한 것은 아니다’라는 것으로, ‘골드바흐의 추측’은 애초부터 해결책이 존재하지 않았다고 페트로스는 확신했다. 그 확신은 수학 분야에서 이미 성숙한 거인인 자신의 직관으로 증명할 수 있다는 것이었다.

페트로스 삼촌의 영향으로 조카 ‘나’는 수학에 흥미를 갖게 되고, 페트로스를 롤모델로 삼는다. 페트로스는 '진정한 수학자는 만들어지는 게 아니라 태어나는 것’이라며 조카를 만류하면서, 조카에게 수학적 재능이 있는지 없는지 알기 위해서라며 수학 문제를 내준다. ‘2보다 큰 모든 짝수는 두 소수의 합으로 나타낼 수 있다는 걸 보여봐라’. 알고 보니 그 문제는 바로 페트로스 자신이 풀지 못했던 골드바흐의 추측이었다. 나중에 그 사실을 알게 된 조카는 분노하지만, 골드바흐의 추측을 증명하는데 자신의 젊음과 모든 재능을 바쳤던 페트로스의 이야기를 듣고서는 자기 합리화에 기대어 노년을 보내는 페트로스에게 연민을 느낀다. 조카는 다른 사람들처럼 페트로스도 고통에서 벗어나 자신의 인생을 마칠 수 있도록 도와주려고 한다. 다만 그 시작은 오만에서 비롯된 페트로스 스스로의 잘못을 인정하는 데서부터 시작할 수 있을 것이었다. 페트로스는 수학의 세계에 다시 들어가고 싶지 않다고 완곡하게 거절했지만, 결국 그들은 어디서부터 일이 틀어졌는지 과거를 되짚어간다. 진실한 이별은 만남이어야 하지 않던가.

삶은 답이 없는 과정의 연속이다. 삶에 담긴 무수한 층위 앞에 겸손해야 하지만, 성공과 실패 같은 이분법적 시선으로 세상을 판단하려는 오만함에 익숙하다. 선과 악, 겸손과 오만 또한 마찬가지다. 맹자는 성선설을 주장했다. 반대로 순자는 성악설을 주장한다. 맹자는 인간의 선량한 본성을 확충함으로써 그 시대를 극복하려고 했고, 순자 역시 인간의 악한 본성을 직시하고 그것을 적절히 규제함으로써 춘추전국시대를 뛰어넘으려고 했다. 성선설과 성악설은 다른 관점을 가졌지만 전란의 참상을 뛰어넘어 백성을 구하고자 하는 목적은 같았다. 신영복 선생님은 관계론의 최고 형태로 겸손을 들었다. 겸손은 자기를 낮추고 뒤에 세우며, 자기의 존재를 상대화하여 다른 것과의 관계 속에 배치하는 것으로 우뚝 솟은 산을 땅속에 숨기는 있는 형국과 같다고 하셨다. 유발 하라리는 현대 과학이 ‘이그노라무스 ignoramus– 우리는 모른다’에 기반을 두고 있다고 했다. 모른다는 인식이 없다면 현재는 있는 그대로 고착화된다. ‘우리는 모른다’라는 인식을 통해 우리가 더 많은 지식을 갖게 되면 현재 우리가 알고 있는 것이 틀린 것으로 드러날 수도 있음을 받아들일 수 있다. 무지의 인식이라는 겸손함에는 세상의 어떤 이론도 신성하지 않다는 우뚝 솟은 도전의식이 담겨 있다. 오만은 지나친 자신감으로 비치기도 하지만, 한 길로 정진할 수 있는 동력으로서의 다른 의미가 있다. 삶이란 오로지 선도 아니고 악도 아니다. 성공과 실패, 오만과 겸손 또한 그렇다. 삶은 정해진 무엇이 아니라 서로 스며들고 벗어나는 떨림 속에 담긴 무엇일 것이다. 드물게 그 떨림을 믿을 수 없는 경지까지 밀어붙인 삶 앞에 서면 경건함에 자연스레 고개가 숙여진다.

골드바흐의 추측이라는 난제 앞에 다시 선 페트로스는 어떤 선택을 할 것인가? 조카가 바람대로 자신의 오만을 인정하고 고통에서 벗어나 마음 편하게 마지막을 맞이했을까? 예상과 달리 페트로스는 폭풍 속으로 자신을 내던졌다. 페트로스는 조카와의 마지막 통화에서 “헤아릴 수 없이 오랜 세월 동안 나는 어쩌면 이다지도 간단한 이치를 깨닫지 못했을까 싶구나.”라며 자신이 골드바흐의 추측을 증명했으니 다른 증인을 꼭 데려와 달라고 애원한다. 의사와 함께 도착한 조카 앞에는 절대적 만족감에서 우러나오는 듯한 미소를 지은 채 바닥에 널브러져 있는 페트로스의 시체가 있었다. 평형 사변형에서 벗어나 이리저리 어지럽게 흩어져 있는 콩들은 자신이 신비로운 해법에 활용되었다고 말하는 것 같았다. 페르마가 남긴 발견되지 않은 메모 증명이 그렇듯, 실체를 알 수 없는 페트로스의 ‘콩 증명법’은 존재하는 것일까?

페트로스가 골드바흐의 추측을 증명하지 못한 것은 사실이다. 하지만 조카와 함께 골드바흐의 추측과 다시 대면한 페트로스의 마지막은 생동하는 삶 그 자체였다. 젊은 시절처럼 날카로운 지성과 깊이를 알 수 없는 내적인 힘으로 빛나는 사나이로 돌아가 있었다. 우리가 발견해야 할 ‘진실’은 ‘사실’ 너머에 있을 것이다. 삶의 마지막 순간, 페트로스는 진정한 수학자로 남고 싶었다. 그것이 잔혹한 불빛 앞에 놓인 나방의 날갯짓일지라도.