숫자 없는 수학이란

인간은 얼마나 깊게 생각할 수 있는가

http://www.yes24.com/Product/Goods/62776752

수학이 필요한 순간

앞서 "대학에 가는 AI(아라이 노리코 저)"를 읽으면서 수학에 대해 더 알고 싶어서 작년에 보았던 책을 다시 읽어 보았다.

국민학교(그렇다 나는 국민학교 세대다) 저학년 시절 덧샘이 그렇게 어려워서 나머지 공부를 밥 먹듯 했던 나는 숫자가 너무 어렵고 무서웠다. 경영학 전공 수업 중 경영 통계, 경영 수학이 필수 과목인 게 잔인했다. 공학 계산기까지 혐오했던 나로선 작년에 이 책을 읽기까지 많은 용기가 필요했었다. 그런데 웬걸. 생각보다 술술 읽힌다. 게다가 저자가 차이나는 클라스(77회 2018년9월12일 JTBC방영)에 출연해서 차분하게 매듭을 푸는 장면을 보니 친근하기까지 하다.

김상욱 교수가 "알쓸신잡"에 나와 과학은 태도라고 그렇게 강조했었다. 그런데 수학도 마찬가지임을 알았다. 저자는 수학은 의도라고 한다. 

추상적인 개념적 도구를 사용해 세상을 체계적으로, 또 정밀하게 설명하려는 의도가 바로 수학이라고 할 수도 있겠습니다.

의도나 태도 모두 "관점"에 기인한다. 현상을 어떻게 대하고 보는가가 수학이지 복잡한 논리로 도출된 답안이 수학이 아니라는 생각이다.

이 책을 읽고 내가 수학에 대해 재미를 느낀 몇 가지 개념에 대해 아래와 같이 갈무리하려고 한다.

1. 페르마의 법칙

페르마 수학학원. 우리 동네 학원 이름이다. 볼 때마다 거리감 느낀다. 한데 이 책을 통해 알아보니 참 재미있다. 우리는 직관적으로 빛은 직진을 하며 매질에 따라 각도가 각각 다르게 직진한다는 것이 당연하다고 알고 있다. 이 현상을 설명한 것이 페르마의 원리이다. 여기까지만 보면 이 무슨 역사를 바꾼 수학적인 발견인가 싶다. 더 살펴보자. 흥미로운 점은 빛이 한 점에서 다른 점으로 도달할 때 시간을 최소화하는 즉, "최적화"라는 원리에 입각해서 각도를 달리 선택한다는 개념이다. 후에 이 최적화 원리는 현대 과학, 입자물리학 같은 분야에 보편적으로 사용될 정도로 적용 영역이 넓어진다.  내가 방점을 찍고 싶은 지점은 이 "최적화"라는 것은 주어진 "조건"이 있어야 그 조건 하에서 가장 효율적인 경로를 선택할 수 있다는 것이다. 공기와 물을 순차적으로 통과하는 빛이 고려해야 하는 조건이란,  빛이 출발하고 최종적으로 도달하고자 하는 "지점"과 그 지점까지 갈 때 걸리는 "시간"이다. 그리하여 최소한의 시간이 걸리는 경로에 의해 빛이 꺾이는 "굴절률"이 결정된다. 이쯤 되면 우리가 입자라고 알고 있는 빛(광자)은 이미 도달 지점을 알고 있다는 사실에 의문이 생긴다. 빛이 지능이 있어서 도달 지점을 정하였을까? 아니면 누가 정해주었을까? 그럼 빛은  명령을 따라야 하나? 인과적(매질의 차이)뿐만 아니라 목적(빛이 최종 도달할 지점)에 의해 경로가 변경(굴절률)된다는 관점이 참 신선하고 재미있다.

영화 '컨택트'의 포스터

곁 길로 좀 더 나아가 보자. 이 관점을 언어학적으로 고찰한 영화가 "컨택트(영문제목 arrival 드니 빌뇌브 감독, 2016년작)"이다. 이 영화는 본래 테드 창의 "너의 인생의 이야기"(테드창 저)라는 과학소설을 원작으로 하고 있다. 광자의 운동 개념을 언어학으로 들여와서 과거-현재-미래 차순으로 선형을 이루는 호모 사피엔스의 언어를 비선형적인 외계인의 언어(극중 헵타포드어)와 대비시키며 우리 관념 체계의 지경을 확인할 수 있다. 내가 좋아하는 독일의 베네딕토회 사제인 안셀름 그륀 신부님이 쓰신 "아이들이 신에 대해 묻다"를 보면 어린이들은 끊임없이 경계를 넘는 시도를 한다고 한다. 예컨대 무리하게 큰 소리로 떼를 쓰거나 좀 높은 곳에서 뛰어내리면서 어른들의 반응을 살피고 몸이 다치는지를 확인한다. 이를 통해 어린이는 경계 안에서는 안도하고 경계 밖에서는 위험함을 인지하면서 스스로 계속 그 지경을 넓혀가려 하며 이를 아이들의 성장 메커니즘이라고 한다. 즉 성장은 메타인지를 전제하며 자신의 세계를 넓혀가는 것이다. 이런 의미에서 우리가 유일하거나 절대적이라고 생각했던 사고체계, 언어체계의 한계를 확인하며 다른 사고체계와 언어도 가능하다는 깨달음을 얻었다. 과학, 수학의 존재 이유, 현대 생활에서의 유용성은 간혹 절대적인 것으로 받아들일 수 있지만 사실은 모든 것을 다 설명할 수 없다는 점을 인정할 때야말로 성장의 가능성을 확인할 수 있다.

영화 '컨택트'에서 언어학자가 헵타포드어를 해독하는 장면

2. 아이작 뉴턴의 프린키피아(Principia)

다시 말하지만, 나는 수학이 참 어려웠다. 초등, 중등, 고등 수학 과정에 유명한 수포자 양성 구간이 있다고 하는데 나 역시 그 구간마다 꾸준하고 확실하게 자신감을 잃어왔으며 미적분도 그 구간 중 하나였다. 뉴턴이 가속도 때문에 발견한 개념이 바로 '미분'과 '적분'이다. 이 속도가 변하는 정도를 정확히 수학적으로 표현한 것이 바로 미분 즉 속도의 미분이 가속도가 되는 것이다. 적분 역시 아래와 같이 설명이 가능하다.

지구나 달의 각 표면에 굉장히 연속적으로 분포한 점과 점들끼리 사방에서 끌어당기는 이 모든 중력을 다 더해야겠죠? 양쪽에서 다 똑같이 끌어당기고 있으니까요. 여기에서 '연속적으로 더해준다'는 개념이 바로 적분입니다. 정량적으로 모든 등식을 이용해서 중력장 등식과 힘을 재는 등식, 운동법칙 등을 다 감안하여 적분을 해주면, 결국 달의 중간에서 지구 중간 사이의 거리만 재면 된다는 결과를 도출하게 됩니다. 지금은 당연하게 이 공식을 활용하지만, 처음에는 전혀 당연한 문제가 아니었습니다. '어디서부터 어디까지 거리를 재라는 거냐' 같은 질문에 먼저 답하지 않으면 지구와 달 사이의 중력 법칙을 구할 수 없었고, 이로 인해 자연스레 적분이라는 개념을 만들어낸 것이죠.

미적분이 개념이 애초에 어떻게 생겼는지 알고 정석 문제를 푸는 것과 모르고 푸는 것은 천양지차다.

3. 좌표의 발견

좌표는 우리에게 매우 익숙한 표현법입니다 데카르트가 바로 이 표현법을 만들어냈는데, 이는 인류의 역사에서, 그리고 수학사에서 굉장히 중요한 발견이었습니다. 기하학을 대수적인 방법, 즉 언어로 명료하게 표현할 수 있는 개념적 틀이 여기서부터 나왔기 때문입니다. 거의 같은 시기에 페르마도 좌표계 이론을 만들었지만 후대에 미친 영향은 데카르트의 글이 더 큰 것 같습니다.

코기토 에르고 숨 (Cogito, ergo sum / 나는 생각한다 그러므로 나는 존재한다)으로 유명한 데카르트의 "방법 서설"에 기하학이 웬 말일까? 그것도 책에 붙어 있는 부록 3개 중 하나에 있었던 개념이 수학사의 큰 발견 중 하나라고 한다. 내분비계 전문의가 정형외과 전문의를 아우를 수 없는 시대에 사는 나로서는 충격적인 사건이다. 그런데 잠깐만 가만히 생각해 보면 이야말로 우리가 그렇게 목매달고 있는 4차 산업혁명에 필요한 창조적인 태도 아닌가? 당대의 천재가 고안한 개념(책의 후반에는 수학을 발명으로 볼 지 발견으로 볼지 흥미로운 대화도 나온다)을 이제는 초등학생도 문제풀이를 하고 있을 정도로 세상은 발달하고 세분화되어있다. 하지만 그 현미경적인 시각에 매몰되지 않고 기원과 역사를 훑어보는 작업은 우리에게 더욱 명료하고 창의적인 시각을 선사한다는 사실을 염두에 두어야겠다.

이 외에 오일러의 수라든가 확률론의 선과 악 부분도 매우 흥미롭게 읽었다.

이렇듯 답이 없는 수학에 대해 저자는 아래와 같이 말한다.

사실 뉴턴의 운동법칙도 그 자체만으로는 모순을 일으킨다는 관찰을 통해 상대성 이론을 낳기도 했죠.

수학사에는 틀린 증명과 틀린 정리가 굉장히 많습니다. 그런데 오히려 그 수많은 실패가 현상을 이해하게 하는 데 더 큰 도움을 주곤 합니다. 우리에게 주어진 제약이 무엇인가를 확인하게 하기 때문입니다. '애로의 불가능성 정리'역시 제한점을 마련하고, 거기서 끝난 것이 아니라 이후 연구자들에게 지표가 되어주었습니다.

학문은 항상 진리를 근사해가는 과정입니다. 따라서 가끔 오류가 나오거나 나중에 교정한다고 해서 큰일이 나지는 않습니다 (중략) 수학을 선험적인 지식으로 인식하게 되면 수학에 약간의 흠만 있어도 다 무너져버릴 것으로 오해하기 십상입니다. '확실한 앎'에 대한 집착이 불러들인 일종의 환상이죠. 실제로 세상에 확실한 게 어디 있겠어요?

수학은 정답을 찾는 게 아니라, 인간이 답을 찾아가는데 필요한 명료한 과정을 만드는 일이라고 생각합니다.

일상의 문제에서도 정답부터 빨리 찾으려고 하기보다 좋은 질문을 먼저 던지려고 할 때, 저는 그것이 수학적인 사고라고 생각합니다. 어쩌면 대범하게도 수학적 사고를 통해서만 우리는 좋은 질문을 던질 수 있고, 우리가 찾으려는 답이 이미 있는지 확인할 수 있다고 말할 수 있습니다.

여태껏 수학은 과학과 한 몸이라고만 생각했는데 지금은 철학의 샴쌍둥이가 아닐까 하는 생각이 든다. 수학을 수학으로만 배우지 않고 역사, 철학과 아우르며 이해한다면 예전에 내가 배웠던 수학보다는 훨씬 흥미로운 과목이 될 수 있으리라 생각해 본다.