2026 All-Day-Project (094/365)
내 글에 이어서 생각하기 054: 왜 수학을 공부해야 하는가?
이 물음은 단순히 과학의 영역을 넘어 철학의 오랜 질문과 맞닿아 있다. 자연 현상을 설명하고 예측하는 데 수학이 보여준 놀라운 효율성은, 도대체 왜 인간이 만든 추상적 형식 체계가 이렇게까지 현실과 정밀하게 들어맞는지 의문을 품게 한다. 유진 위그너가 “수학의 부당하리만큼 넘치는 효율성”이라 말한 바로 그 지점이다.
그러나 이 질문에 답하려면 먼저 “현실”과 “수학”을 어떻게 이해할지, 그리고 “따른다”는 표현이 어떤 철학적 전제를 담고 있는지 살펴볼 필요가 있다. 이 글은 한 편의 대화를 통해, 수학과 현실의 관계에 대한 다양한 철학적 입장을 짚어보고, 궁극적으로는 이러한 질문이 개인의 삶의 전략과 어떻게 연결되는지 정리한 것이다.
수학의 본질을 둘러싼 고전적 논쟁은 플라톤주의(실재론)와 형식주의(도구주의, 구성주의)의 대립으로 요약된다.
- 플라톤주의는 수학적 대상(원, 정수, 사인곡선 등)이 인간의 정신과 무관하게 독립적으로 존재하는 ‘이데아’라고 본다. 우리는 그것을 발견할 뿐이며, 현실은 그 이데아의 불완전한 모방이다. 이 입장에서는 현실이 수학적 법칙을 따르는 것이 당연하다. 현실 자체가 수학적 구조로 되어 있기 때문이다.
- 형식주의는 수학을 인간이 만들어낸 공리와 정의에 기반한 추상적 체계로 본다. 수학이 현실에서 유용한 이유는, 우리가 현실을 설명하기에 편리한 형태의 언어와 규칙을 선택적으로 발전시켜 왔기 때문이다. 이 입장에서 수학은 현실의 본성에 대한 필연적 진리를 드러내는 것이 아니라, 효과적인 도구일 뿐이다.
플라톤주의는 “현실은 수학적 법칙을 따른다”는 존재론적 주장에 자연스럽게 수렴한다. 반면 형식주의는 “우리는 수학적으로 현실을 설명한다”는 인식론적·도구주의적 입장에 머무른다.
고대 피타고라스 학파의 “만물은 수”에서부터 갈릴레이의 “자연의 책은 수학의 언어로 쓰여 있다”는 선언, 그리고 뉴턴·맥스웰·아인슈타인으로 이어지는 현대 물리학의 성공은 수학과 현실의 긴밀한 결합을 보여준다. 블랙홀의 존재나 힉스 입자처럼 수학적 모델이 선행적으로 예측한 현상이 실험으로 확인될 때, 우리는 자연이 수학적으로 조직되어 있다는 믿음을 강화한다.
그러나 이에 반하는 시각도 존재한다.
- 수학적 모델은 언제나 단순화와 이상화를 거친다. 점질량, 마찰 무시, 선형 근사 등 현실의 복잡성을 잘라내야 수학적 공식이 작동한다.
- 물리적 법칙과 수학적 법칙은 성격이 다르다. 수학에서의 “참”은 공리계 내에서 논리적으로 도출된 것이지만, 물리학의 법칙은 경험적으로 검증되는 일반화에 불과하다. 유클리드 기하학이 물리적 공간에 ‘적용될 뿐’ 절대적으로 ‘참’인 것은 아니다.
- 혼돈계와 양자역학의 무작위성은 수학적 예측의 한계를 드러낸다. 초기 조건에 민감한 시스템에서는 장기 예측이 원칙적으로 어렵고, 양자역학에서는 확률적 해석이 필수적이다. 이는 현실이 근본적으로 결정론적 수학 구조를 갖는다는 주장을 약화시킨다.
- 괴델의 불완전성 정리는 어떤 충분히 강력한 형식 체계도 자기 안에서 증명할 수 없는 명제가 존재함을 보였다. 수학 자체의 본질적 한계가 존재한다는 사실은, “모든 현실이 수학으로 완전히 포착 가능하다”는 주장에 대한 경계심을 불러일으킨다.
이러한 대립은 결국 “현실이 수학적 법칙을 따르는가?”라는 질문이 하나의 해답으로 귀결되기 어려운 철학적·과학적 긴장 속에 있음을 보여준다.
이 질문을 더 단순화해보면, “세상에 규칙이 있는가?”라는 물음으로 환원할 수 있다. 만약 세상에 규칙이 있다면, 그 규칙이 반드시 수학적 형식으로 표현되어야 하는 것은 아니다. 수학은 그 규칙을 가장 정밀하게 포착하는 언어일 뿐이라는 시각도 가능하다.
여기서 우리는 결정론과 무작위성이라는 고전적 이분법을 마주하게 된다. 아인슈타인이 “신은 주사위 놀이를 하지 않는다”고 말했듯, 근본적 무작위성을 인정할 것인지, 아니면 모든 무작위성은 아직 발견하지 못한 더 높은 규칙의 표현일 것인지 결정할 수 없다. 이 질문은 과학적 실험으로도, 철학적 논증으로도 종국적으로 ‘증명’할 수 없는 영역에 속한다.
이 지점에서 논의의 무게 중심이 이동한다. “무엇이 참인가”라는 존재론적 물음은 “우리는 무엇을 할 수 있는가”라는 실존적·실용적 물음으로 전환된다.
파스칼의 내기가 대표적이다. “신이 있는지 없는지 알 수 없으니, 있다고 가정하고 사는 쪽이 유리하다.” 이는 진리 자체에 대한 판단을 유보한 채, 선택의 결과에 따라 내 삶에 유리한 쪽으로 베팅하는 전략이다.
나심 탈레브의 바벨 전략도 같은 맥락이다. 극도로 보수적인 부분과 극도로 공격적인 부분을 양극단에 배치하고, 위험한 중간을 피하는 방식은 “우리가 세상을 완전히 알지 못한다”는 사실을 전략의 출발점으로 삼는다.
이러한 사고방식의 핵심은 다음과 같다.
불확실성을 인정하는 것은 곧 “그것이 참이다”라는 판단 이전에, 개인 차원에서의 전략으로 바꾸는 노력이 유의미하다는 것이다.
과학적 탐구의 방향, 삶의 태도, 신념의 문제 모두 이 틀 안에서 ‘베팅’의 대상이 된다. 우리는 세상의 궁극적 규칙을 알지 못하지만, 그럼에도 매일 선택하고 행동해야 한다. 중요한 것은 그 선택을 가장 현명하게 할 수 있는 능력을 기르는 것이다.
이러한 실존적·전략적 관점에서 수학의 의미를 새롭게 정리할 수 있다.
수학은 진리 자체(기의)와 직접적으로 동일하지 않다. 진리는 존재하지만, 그것을 완전히 증명하고 포착할 수 있는지는 알 수 없다. 수학은 진리의 ‘표현형’(기표)이다. 즉, 우리가 진리에 접근하고, 그것을 다루고, 그 앞에서 판단을 내릴 수 있게 해주는 언어이자 도구다.
따라서 수학을 공부하는 것은 “내가 믿는 진리가 나에게 도움이 될 방향으로 선택할 수 있게 해주는 능력을 기르는 전략” 이 된다.
- 수학적 사고는 불확실성 속에서도 구조를 읽고 패턴을 파악하는 안목을 준다.
- 통계와 확률은 무작위성처럼 보이는 현상 앞에서 합리적인 베팅을 가능하게 한다.
- 논리와 증명은 내가 가진 믿음의 근거를 명확히 하고, 오류를 줄이는 훈련이 된다.
이것은 수학이 현실을 ‘따르는’ 존재론적 법칙이라는 주장과는 다른 차원의 것이다. 수학을 ‘현실의 언어’로 보는 도구주의와도 다르다. 오히려 수학은 진리라는 기의에 닿을 수 없는 우리가, 그럼에도 불구하고 가장 현명하게 살아가기 위해 선택한 기표이며, 그 기표를 정교하게 다루는 능력이 곧 삶의 전략이 된다.
대화의 마지막에 정리된 한 사람의 관점은 다음과 같다.
> 진리는 있다. 그것을 증명할 수 있는지는 알 수 없다. 누구도. 따라서 내가 믿는 진리가 나에게 도움이 될 방향으로 선택할 따름이다. 수학은 진리의 표현형이지. 기표는 기의와 다르다. 따라서 수학을 공부하는 것은 내게 유리한 전략이다.
이 관점은 존재론적 확신(진리는 있다)과 인식론적 겸손(증명할 수는 없다)을 함께 유지한다. 그리고 그 사이에서 실존적 자유(내게 도움이 될 방향으로 선택한다)를 위치시킨다.
수학은 그 선택을 가능하게 하는 정교한 언어다. 수학을 공부하는 것은 “세상의 궁극적 진리를 발견하는 것”이 아니라, “주어진 패를 가장 정밀하게 읽고, 가장 유리한 베팅을 하는 능력”을 기르는 일이다. 이것이 불확실성의 시대에 개인이 취할 수 있는 가장 합리적인 전략이다.
결국 “현실이 수학적 법칙을 따르는가”라는 물음은, “나는 수학적 사고라는 도구를 통해 내 삶의 전략을 세울 것인가”라는 물음으로 전환된다. 전자에 대한 답은 철학적 논쟁에 맡겨두더라도, 후자에 대한 답은 우리 각자의 몫이다.
우리는 세계의 궁극적 규칙을 알지 못한다. 결정론과 무작위성 사이의 선택은 증명 불가능한 채로 남을 것이다. 그럼에도 우리는 매 순간 선택하고, 행동하고, 살아간다.
파스칼은 신의 존재에 내기를 걸었고, 탈레브는 불확실성 자체를 전략의 축으로 삼았다. 그리고 우리는 수학이라는 정교한 기표를 다루는 능력을 통해, 진리 앞에서 더 나은 선택을 하려 한다.
이것이 수학을 공부하는 이유다. 진리를 발견하기 위해서가 아니라, 진리라고 믿는 것이 나에게 가장 유리한 방향으로 작용하도록, 나의 판단과 행동을 정밀하게 조율하기 위해서.
진리는 있다. 나는 그것을 완전히 알지 못한다. 그러나 나는 선택한다. 그리고 그 선택을 더 현명하게 만들기 위해, 나는 수학을 공부한다.