brunch

You can make anything
by writing

C.S.Lewis

by Kisun Yoon Apr 10. 2022

미적분학 이야기 1

수학자들의 골치덩어리였던 무한소(Infinitesimal)

1. 우리나라에는 '라면먹고 갈래' 라는 표현이 있다면 미국에는 '넷플릭스 같이 볼래(Netflix and chill)' 라는 표현이 있다(*). 나는 미적분학이라는 학문이 자기 자취방에서 라면먹으면서 넷플릭스 보자고 하는 드라마속 남자 주인공같다. 고등학교때는 미분도 적분도 참 쉽고 재밌지 않냐고 많은 학생들 꼬드겨놓고 막상 대학교 미적분학/해석학 수업에 우리를 델구 들어가서는 그 엄밀함의 본색을 드러내며 우리들의 동심을 파괴하기 시작하는거 같아서다.

2. 미적분학이 그동안 내가 알던 미적분학이 아니라고 느끼게 되는 첫순간이 입실론-델타 논법이라고 하는 극한값(limit)의 존재를 증명하는 수학적 방법론을 처음 배우면서가 아닌가 싶다. 아니 저리 뻔해 보이는 명제를 저리 어렵게 증명하겠다고 부등호와 절대값만 가지고 쌩쑈를 하는걸까. 그 편하고 좋은 그래프는 죽어도 안쓴다. 오로지 부등호들만 지겹게 나온다. 저런걸 대체 누가 왜 만들었을까, 입실론-델타 논법보다 좀더 받아들이기 쉬운 방식의 증명은 과연 불가능한걸까.

3. 미적분학(Calculus)은 17세기 후반에 Newton과 Leibniz과 거의 동시에 만든(그리고 저작권문제로 둘이 다툰) 중요한 수학이론정도로 우리는 알고 있지 않나 싶다. 하지만 사실 우리가 배우고 있는 현대 미적분학은 이 두 사람외에도 여러 수학자들의 많은 노력에 의해 서서히 발전해 온 이론이다. Newton과 Leibniz가 만든 초기의 미적분학 이론에는 그 시대의 다른 수학자들로부터도 많은 비난을 받은 부분이 있었는데 그건 바로 infinitesimal(**)이라고 하는, 그들 자체도 그게 뭔지 제대로 설명을 못하는 미스테리한 수학적 오브젝트였다.

4. Infinitesimal은 우리말로 '무한소'라고 번역을 한다. 이 무한소는 어떤 양의 실수보다도 그 크기가 작지만 그렇다고 0은 아닌 존재라고 한다. 그게 대체 뭔말일까. 실수선을 하나 그려놓고 그 선의 가운데가 0 이라고 할때 그럼 이 녀석은 대체 그 선의 어느 지점에 있는걸까. 그리고 Leibniz가 무한소를 이용해서 내린 미분의 정의를 보면 무한소를 아주 자기 입맛대로 쓰고 있다. 가령 분모에 쓸때는 무한소는 0이 아니기 때문에 분모에 써도 오케이라고 하고, 또 무한소가 이제는 좀 사라져줬으면 싶을때는 무한소는 아주아주 작은 quantity이기 때문에 0이라는 식이다. 대체 언제는 0이고 언제는 0이 아니라는건지. 이미 답을 다 정해놓고 무한소를 그 답이 나오도록 조종하고 있는 스멜이다.

5. 게다가 무한소는 0이 아니지만 무한소의 제곱은 진짜 장난아니게 작기 때문에 무한소의 제곱부터는 0으로 본다는 도무지 이해가 안가는 설명도 Leibniz의 논문에서 보인다. 적분의 정의를 설명할때도 무한소가 dx라는 모습으로 등장을 한다. dx는 무한히 작은 간격이라는데 그렇게 무한히 작은 간격으로 x축을 쪼개면 dx의 갯수는 무한히 많아지게 된다. 그러면 dx는 무한소이니 작긴 작아도 0은 아닌데 적분을 하기 위해 무한개의 dx들을 다 더해버리면 적분값은 무한대가 되버리게 된다. 이 역시 뭔가 이상하다(***).

6. 이와같이 17세기말의 미적분학은 왜 미분식, 적분식이 그렇게 유도되는지에 대한 설명은 완전하지 않았지만 신기하게도 그렇게 어찌어찌 유도된 미분식, 적분식을 이용해서 계산을 해보면 정확한 결과값이 나왔다. 미적분학은 다양한 함수들의 기울기, 면적의 계산을 손쉽게 할 수 있게 해줬고, 그동안 기하학, 고전역학, 천문학등의 분야에서 과학자들이 풀고 싶었던 많은 문제를 해결해 주는 매우 강려크한 수학적 툴이 되어 가고 있었다.

7. 이런 상황을 천호식품 산수유 광고같다고 봐야 할려나. 제대로 된 계산결과를 쉽게 내주는 아주 유용한 수학적 툴인데 이 결과를 어떻게 유도했는지 야무지게 설명할 방법이 없는 형국이라니. 미적분학은 이런면에서 유니크하고 재밌는 역사를 가진 인류의 발견이 아닌가 싶다. 주어진 함수의 미분식, 적분식이 직관을 통해서 유추가 가능하지만 그 유추과정에 수학적인 엄밀함을 부여해 수학적 추론으로 승화시켜 보려고 하면 그게 아주 어려운 미션이 되버린다니.

8. 물론 수학자들이 그 불편함을 가만히 보고만 있지 않았다. 수학적으로 말이 안되는 무한소라는 녀석을 잘 달래고 다듬어서 미분/적분의 정의를 엄밀한 수학적 토대위에 세워보려는 시도들이 여러 수학자들 사이에서 있었다. 그런데 이게 쉽게 해결되지를 않는거다. 놀랍게도 이 문제를 해결하는데 200여년의 세월이 걸리게 된다.

9. 그럼 200여년이나 걸려서 비로소 19세기 말에 완성된 해결책은 과연 무엇이었을까. 바로 문제아 무한소를 미적분학에서 숙청해버리고 미분/적분을 새롭게 정의하는것이었다. 물론 무한소대신에 도입된 새로운 개념들이 있다. 바로 수열(sequence), 극한(limit), 수렴(convergence), 연속성(continuity)이라는 개념이다. 17세기말에도 극한의 개념정도는 이미 있지 않았을까 싶지만 NOPE. Newton의 논문에도 Leibniz의 논문에도 lim이란 기호는 등장하지 않는다. 그저 무한소(혹은 이와 비슷한 개념)만 있다. 당시는 극한이라는 수학적 개념이 나오기 이전이었다.

10. 그럼 1/n이란 함수에서 n이 무한대로 가면(즉 n의 무한대 극한을 취해서) 1/n이 점점 작아지면서 무한소 비스무리한게 만들어 질것 같다는 생각이 들지 않는가. 즉 극한이나 무한소나 둘다 아주아주 작은 숫자를 만들어 내는데 쓸 수 있는 비슷한 개념 아닌건가 싶어진다. 하지만 극한과 미분소는 절대로 동시에 존재할 수 없는 김정은과 김정남의 관계같다고 봐야 한다. limit이란 단어가 미분/적분의 정의에 등장했으면 그때부터 infinitesimal이라는 단어는 입밖에만 내도 아오지 탄광에 가게 되는 금기어가 된다. 비슷한 컨셉같은데 과연 그 둘은 어떤 차이가 있는걸까.

(*) 남녀불문하고 미국인한테 영어회화연습한다고 이 표현을 함부로 사용해보려하지 말자. 크닐남.

(**) Infinitesimal은 사실 Leibniz가 사용했고 Newton은 Fluxion이라고 하는 개념을 도입했다. 하지만 이 Fluxion 역시 산수유광고느낌이 난다고 봐도 되는것 같다.

(***) 현대 미적분학에서도 계속 등장하는 dx, dy등은 Leibniz의 notation을 지금도 계속 차용했기 때문에 나오는 기호일뿐이지 이들은 더이상 무한소를 의미하지 않는다.

https://www.youtube.com/watch?v=CaAZ6TCMiTY