페르마의 저주

이해하기 쉬운 문제와 실제로 풀기 쉬운 문제 사이의 괴리 

내맘대로 쓰는 표현 중에 '페르마의 저주'라는게 있다. 고백컨데 그다지 좋은 네이밍은 아니다.

복잡한 수학은 문제를 이해하고, 그 문제를 생각해보기 위해 필요한 도구들이 많고 그것을 배우는 과정 자체가 길고 험난하다. 때문에 많은 사람들은 문제의 명제가 이해하기 쉽고 간단해 보이는 문제에 쉽게 끌리는 경향이 있다. 그러나 문제의 겉으로 보이는 '진입장벽'으로 문제 자체가 내포한 깊이를 추측하는 것은 함정일 확률이 높다. 나는 이 함정에 빠지는 것을 페르마의 저주라고 부른다. 페르마의 마지막 정리로 잘 알려진 문제가, 300년 넘게 난제로 군림하면서도 명제 자체는 초등학생들도 이해할 수 있는 수준이어서 수학자들 뿐만 아니라 수많은 수학애호가들을 함정에 빠뜨렸던 것을 생각하면서 지은 이름이다. 

나는  '스스로 문제를 찾는 것'을 가장 중요한 박사의 자격 요건이라고 생각하기 때문에, 대학원생들에게 학위논문 주제를 직접 주기보다는 스스로 풀고 싶은 문제를 찾을 수 있도록 격려하고 그 과정에서 길을 잃지 않도록 조언하는 방식으로 지도를 많이 하는 편이다. 그러나 이는 학생들이 페르마의 저주에 빠질 위험도 높인다. 내가 아는게 별로 없다고 느끼고, 공부하는게 힘들고, 그렇게 지쳐가다보면 재밌어 보이고 진입장벽이 낮아보이는 문제가 눈길을 확 끌기 마련이다. 

그런데 문제는, 내 감각으로는 쉽지 않아 보이는 것이라 하더라도 '이건 페르마의 저주니 피해라'라고 감히 조언할 수가 없다는 것이다. 그건 실제로 풀어보기 전에는 아무도 모르는 일이니 말이다. 나와는 다른 수학적 접근과 사고를 가진 학생이 이 문제에 누구보다도 적임자였을지 그걸 내가 미리 어떻게 알겠는가, 그저 추측만 할 뿐이다. 그리고 아무도 풀어보지 않은 수학 문제를 풀어가는 과정은 왠만하면 그냥 무조건 어렵다 (어느 분야든 연구가 어려운 점이 그것 아니겠는가, 답이 무엇인지 심지어 제대로된 답이 있는지 없는지 조차 모르는 경우가 허다하니까). 그러니까 어려우니 피하라는 말은 쉽게 할 수 없는 말이다. 그래서 아주 간접적으로 나의 개인적인 의견만을 전하는데, 의도가 잘 전달되지 않을 때도 많다. 그리고 학자가 될 사람이라면 자기 고집도 좀 있어야 하는 것도 사실이고.. 

연구자로서 스스로에게 하는 말이기도 하고, 교육자의 입장에서도 참 어려운 문제다.