문제와 증명 사이

문과 교사의 이과 책 도전

책 <페르마의 마지막 정리>를 읽고 있다. 교사 독서 모임의 책으로 선정되지 않았다면 평생 읽어보지 않았을 수학사에 대한 책이다. 나는 당연히 수학사에 관심이 없다. 페르마가 누구인지도 모르는 상황에서 <페르마의 마지막 정리>는 부담스러운 면이 없지 않았다. 그래도 두 가지를 이유로 들어 책을 읽고 싶다는 생각을 했다. 첫째, 두껍고 재미없어 보이는 책에 대한 호기심 때문이었다. 독서 모임의 책을 정할 때가 700페이지가 넘는 <내면소통>을 읽고 난 직후였다. 나의 첫 벽돌책을 무사히 완독 한 후 생긴 약간의 자신감이 재미없어 보이는 페르마가 누구인지 알고 싶게 했다. 둘째, 독서에 편식을 줄이고 싶었다. 수학 교사인 이상이 부담되겠지만 그래도 한 번 읽어보면 후회하지 않을 책이라고 했다. 책에 대한 애정이 느껴졌다. 책을 읽으며 수학적 사고로 세상을 사는 사람들의 생각을 엿보고 싶었다. 나는 <페르마의 마지막 정리>를 나의 문과적 사고의 틀을 깰 기회로 삼기로 했다.

17세기를 살았던 페르마가 남긴 난제( n>2일 때, xⁿ +yⁿ =zⁿ 방정식을 만족하는 양의 정수 x, y, z는 존재하지 않는다)는 수많은 수학자들의 도전과 실패가 쌓인 후 앤드루 와이즈가 1994년에 드디어 증명해 냈다. 책은 페르마와 와이즈 사이에 있던 수많은 수학자들의 모습을 보여주었다. 단순해 보이는 방정식 하나가 350년이 넘는 시간 동안 많은 사람들을 하나로 집중시켰던 것이다. 책을 읽으며 고미숙 작가를 통해 배웠던 '사이성'이란 개념을 떠올렸다. 증명하기 어려운 난제를 마지막에 풀었던 것은 와이즈였지만 그가 성공할 수 있었던 이유는 많은 사람들의 실패가 쌓여 있었기 때문은 아니었을까. 내 손에 든 낯선 책이 보여주고 싶었던 것도 와이즈의 천재적인 수학적 능력이 아니라 문제와 증명 사이에 있는 수많은 수학자들의 노력이었을 거라 생각한다.

페르마의 난제는 수학이 발전시키는데 큰 도움이 되었다. 문제를 풀기까지는 350년이 넘는 시간이 걸렸지만 수학자들의 그 많은 실패가 무의미하진 않았다는 뜻이었다. 실패가 쌓여 무리수와 허수의 개념이 발견되었다. 페르마의 난제는 그것을 넘어선 또 다른 문제를 제시하고 있었다. 좋은 문제는 그 자체만으로 의미가 있다는 뜻으로 해석했다. 수학사를 인간사에 대입시켜 보았다. 인간이 태어나는 것을 문제로, 죽음을 답으로 본다면 그 사이의 시간이 인생이 아닐까. 즉, 수학사에도 인간사에도 사이에 있는 시간을 통해 의미가 생긴다는 뜻이다. 하지만 중간에 서 있는 것이 불안해 우리는 뭐든 결론을 짓고 싶어 한다. 성급하게 한 증명에는 오류가 생길 가능성이 많음에도 불구하고 말이다. 책을 읽으며 책에 적혀 있지도 않는 사이에 있었던 수학자들의 모습을 상상했다. 그들의 노력과 좌절을 인정해주고 싶었다.

피타고라스는 유리수 외의 수는 없다고 주장했지만 제자가 분수로 나타낼 수 없는 무리수를 주장하자 그를 죽여버렸다. 위대한 수학자였지만 훗날 무리수가 증명된 후 그의 주장이 틀렸음을 정확하게 판단할 수 있었던 것도 수학이 증명된 문제만을 인정하는 학문이기 때문이었다. 인지도보다는 수학자의 정확한 설명만이 인정되는 것이 인상적이었다. 인문학에서는 옳고 그름을 판단하기 어려운 경우가 많다. 답이 없는 질문도 많기 때문이다. 하지만 수학사에서는 비교적 정확한 판단과 인정이 가능하다. 여러 가지 문제들과 증명, 그리고 오류를 그대로 받아들이고 다시 증명하는 것이 수학사이다. 군더더기를 제거하면서 문제에만 집중하려는 마음, 그것의 옳고 그름을 증명을 통해서만 판단하려는 깔끔함, 이것이 시간이 지날수록 수학이 발전할 수 있는 힘이 아니었을까 싶다.

문득 '공평한 사회를 만들기 위해 수학의 깔끔함이 사용될 수도 있지 않을까'라는 생각을 했다. 서로가 옳다고 주장만 하는 정치인들의 모습을 보며 수학자들의 증명 방법을 가르쳐주고 싶었다. 나도 고작 책 한 권을 읽고 있을 뿐인지라 정확한 이과적 사고를 이해하긴 부족하지만 책을 읽으며 머릿속이 조금씩 깔끔해짐을 느낀다. 이과는 이과의 학문만, 문과는 문과의 학문만을 공부하는 시스템을 조금 고쳐 서로 상호보완할 수 있는 교육 시스템을 만들면 어떨까. 교사인 내가 우선 할 수 있는 건 인문학 책뿐만 아니라 이과 책을 골고루 읽으며 문과적 사고로만 고착되지 않도록 애쓰는 것이다. 독서 모임을 하며 다른 사람이 추천한 책을 읽는 것이 사고의 유연성을 유지하는데 도움이 많이 되는 것 같다. 책을 선정할 때 군소리 없이 따라가야겠다고 다시 다짐해 본다.

최근에 유시민 작가가 쓴 <문과 남자의 과학 공부>라는 책을 알게 됐다. 책을 아직 읽어 보진 않았지만 <페르마의 마지막 정리>를 다 읽고 나면 한 번 도전해봐야겠다 싶다. 군더더기 없는 이과적 세계관이 잡생각 많은 나에게 간단하면서도 깔끔한 사고를 할 수 있도록 도움을 줄 것 같기 때문이다. 페르마를 알게 되면서 나는 재미없어 보이는 책에 대한 호기심이 더 생겼다. 그리고 질문을 품고 살면 답을 찾지 못해도 그것을 찾는 과정에서 여러 가지 의미를 알게 된다는 것을 깨달았다. 나는 죽음으로 다가가는 삶 속에서 나름의 증명을 하며 살고 있을까. 페르마를 통해 실패와 성공의 횟수보다는 그것을 의미 있게 해석해 내는 증명 능력이 중요하다는 것을 배웠다. 책을 통해 수학적 의문을 가지기 시작했던 페르마와 책을 통해 페르마를 알게 된 와이즈가 책을 통해 나에게 수학적 사고의 매력을 알게 해 주었다. 앞으로 나는 또 어떤 책을 만나게 될까. 그 속에 얼마나 많은 사람들이 있을까. 그리고 그 사람들을 통해 나는 어떤 사람으로 변하게 될까. 책 한 권이 나에게 독서에 대한 질문을 주었다. 좋은 책은 또 다른 좋은 책을 만날 징검다리 역할을 하는 듯하다.