삼체문제에서 혼돈현상의 씨앗을 보다!
결정론적 세계관이 종말을 맞다! (복잡계 이야기)
1993년에 제임스 글릭(James Gleick)이 쓴 <Chaos>란 대중 도서가 우리나라에서 “카오스”란 제목으로 번역되어 한 때 인기를 끌었다. 카오스는 “혼돈”으로 번역되며 한때 많은 과학자들이 혼돈 현상에 대한 과학적 원리를 탐색하기 위해서 공부하였다. 물론 지금도 풀리지 않은 문제가 많이 남아 있는 분야이다. 혼돈이란 개념은 동양과 서양의 신화에서 공통으로 나온 용어이다. 스티브 스필버그 영화 <쥐라기 공원>에서 “나비효과”로 공룡들이 탈출하여 혼란을 일으킨다. 사소한 사건들이 결국 파국적 사건을 불러온다. 기원전 7세기의 그리스의 헤시오도스는 <신들의 계보>에서 카오스를 얘기하고 있다. 그리스 신화의 창조론에 카오스가 나온다. “태초에 4가지 힘이 자연에 나타났다. 가장 처음에 카오스(Khaos, 텅 빈 공간, 무(無))가 나타났다. 다음에 가이아(Gaia, 대지, 땅), 타르타토스(Tartatos, 지하세계)와 에로스(Eros, 사랑)가 순서대로 나타났다.”카오스는 텅 빈 세상, 무(無)의 세상을 뜻한다. 이집트의 창조신화인 헬리오폴리스 신화에도 혼돈이 등장한다. “아무것도 없는 태초에 ‘누(Nu, Nun)’라는 혼돈의 바다(심연, 나일강)가 있었고, 그곳에 벤벤(ben-ben)이란 언덕이 솟아올라 ‘아툼’이라는 최초의 신이 탄생하였다.” 누는 파란색과 초록색의 피부를 가진 남성과 여성의 경계가 불명한 존재이다. 고대 중국의 신화에 따르면 “태초에 혼돈의 신 제강이 춤추고 노래한다”라고 묘사되어 있다. 이렇듯 혼돈은 세상 이전을 뜻하거나 세상이 처음 창조되었을 때의 상태를 나타낸다. 따라서 혼돈에는 무언가 심오한 것이 깃들어 있는 것처럼 느껴지며 종교적 색채가 강한 용어라고 할 수 있다. 따라서 과학에 관심이 없는 일반인들도 혼돈이란 용어에 무척 흥미를 느낄 것이다. 그렇지만 과학자들에게 혼돈은 매우 좁은 의미로 쓰이며 특별한 대상을 다루는 학문이다.
혼돈 현상을 빅 픽처의 관점에서 보면 소위 고전역학(classical mechanics)이라 부르던 결정론적 뉴턴 역학(deterministic Newtonian mechanics)의 관점을 확 넓힌 연구라고 할 수 있다. 1687년에 뉴턴은 인간의 손으로 쓴 가장 위대한 과학책이라 할 수 있는 “프린키피아(principia)”를 출판한다. 정확한 책의 이름은 “자연철학의 수학적 원리(Mathematical Principles of Natural Philosophy)”이다. 프린키피아는 17세 과학혁명을 이끈 책이며 서양 세계에서 “과학적 사고”의 시대를 연 혁신적인 책이다. 필자는 17세기 유럽 세계가 동양을 앞서기 시작한 이유가 바로 “과학적 사고”를 바탕으로 물질세계를 탐구하면서부터라고 믿고 있다. 뉴턴은 스스로 발견한 운동의 법칙, 만유인력의 법칙을 결합하여 수학적인 언어를 바탕으로 물체의 운동 현상을 명료하게 설명하였다. 프린키피아의 출판 이후에 지구가 태양 주위를 돈다는 사실에 이의를 제기할 수 없게 되었으며 과학적 측면에서 중세가 끝나고 근대 과학의 시대로 들어서게 되었다.
뉴턴 역학의 핵심은 “기계론적 철학(mechanical Philosophy) 또는 결정론적 철학(Deterministic Philosophy)”이라 할 수 있다. 뉴턴은 스스로 발견한 미적분학을 이용하여 물체의 운동을 묘사하였다. 물론 미적분학은 라이프니츠(Gottfried Wilhelm Libniz, 1646-1716)도 동시에 발견하였고 뉴턴이 유명해지면서 누가 먼저 미적분학을 발견했는지 논쟁이 일어났다. 오늘날 우리가 미적분학에서 사용하는 거의 모든 기호는 라이프니츠가 제안한 것들이다. 물체에 작용하는 힘과 물체의 초기 상태, 예를 들어 1차원 운동의 초기 위치와 초기 속력을 알면 뉴턴의 운동 방정식을 (일종의 미분방정식) 풀면 임의의 시간에서 물체의 운동 상태인 위치와 속력을 정확히 예측할 수 있다. 뉴턴의 운동법칙을 풀어서 던진 물체의 궤적, 지구가 태양 주위를 공전할 때 위치, 혜성의 예측, 인공위성의 궤도 등을 예측할 수 있다. 뉴턴 역학을 “기계론적 세계관” 또는 “결정론적 세계관”이라 부른다. 18세기와 19세기를 거치면서 물리학자들은 뉴턴 역학을 더 정교화하여 역학 체계를 에너지의 변화로 묘사하였다.
[그림 1] 삼체문제. 세 개의 물체가 중력으로 묶여 있으면서 운동하는 문제는 손으로 풀 수 없다. 손으로 풀 수 없는 문제들은 오늘날 컴퓨터를 이용하여 수치적으로 쉽게 풀 수 있다.
1887년 스웨덴 국왕 오스카 2세는 자신의 60번째 생일을 기념하여 다음과 같은 문제를 내고 상금을 걸었다. 문제는 천체 역학에 대한 문제로 유명한 수학자 미타크 레플러(G. Mittag-Leffler)가 주관했다. “입자들이 서로 충돌하지 않는다는 가정 하에 뉴턴 법칙을 따르는 많은 입자계에서 각 입자의 좌표를 시간의 함수로 나타내어라.”예를 들어 태양, 지구, 달로 이루어진 3체 문제에서 세 물체가 서로 충돌하지 않고 움직일 때 각 천체들은 우주공간에서 시간에 따라 어떻게 움직일까 하는 문제와 비슷하다. 물체가 일반적으로 N개 있는 문제를 우리는 N-체(n-body) 문제라 한다. 이체 문제(Two body problem)는 잘 풀리기 때문에 그다음으로 생각할 수 있는 문제가 세 물체가 관련된 삼체문제(Three body problem)이고 삼체 이상의 물체로 일반화한 것이 N-체 문제이다. 요즘 인기를 끌고 있는 류츠신의 "삼체"라는 SF소설도 물리학의 삼체문제에서 영감을 얻었을 것이다.
앙리 포앙카레(Henri Poincre, 1854-1912, 프랑스, 물리학자, 수학자)도 이 문제에 도전하였다. 그는 먼저 삼체문제에 도전하였다. 포앙카레는 완전한 해를 구하지는 못했지만 삼체문제의 특수 해를 구해서 논문을 제출하였다. 문제에 대한 해답은 출제한 스웨덴의 수학 학술지 Acta Mathematica에 제출하였다. 이 학술지의 편집자가 미타크 레플러였다. 논문을 심사했던 칼 바이에르스트라스(K. Weierstrass)는 다음과 같이 평가했다. “문제에 대한 완전한 해는 구하지 못했지만 천체 역학 역사의 새로운 시대를 연 중요한 결과를 담고 있다.” 1889년 1월 21일에 앙리 푸앙카레는 오스카상의 수상자로 결정되었다. 투고한 논문을 출판하는 과정에서 푸앙카레는 계산에 심각한 오류가 있음을 발견하고 출판을 멈춰 줄 것을 요청하였지만 너무 늦었다. 이미 학술지 초판이 인쇄된 후였고 일부는 구독자에게 배달되었다. 학술지 편집자인 미타크 레플러는 심각성을 깨닫고 즉각 인쇄된 모든 학술지를 폐기하기로 결정하였다. 폐기 비용은 오스카 상금의 3배에 달했지만 전부 푸앙카레가 부담하였다. 푸앙카레는 심리적 부담에도 불구하고 오류를 교정한 새로운 결과물을 제출하였는데 그 결과에 오늘날 우리가 이해하고 있는 혼돈이론의 씨앗이 담겨있었다. 푸앙카레는 삼체문제의 일반적인 해를 구하지는 못했다. 그는 두 물체를 하나로 묶고 세 번째 문제의 운동을 구하는 방식으로 문제를 풀었다. 푸앙카레가 구한 해는 너무 불안정하여 작은 영향에도 궤도의 안정성이 쉽게 깨졌다. 즉, 묶은 두 물체의 초기 상태를 조금만 변화시켜도 세 번째 물체의 운동은 완전히 달라졌다. 작은 변화에 대해서 물체의 운동은 극적으로 달라졌다. 즉, 물체의 초기 조건에 극히 민감하게 물체의 운동이 달라진다는 것이다. 사실 이 발견은 혼돈 현상의 대표적인 특징인 초기 조건의 민감성에 대한 내용이 담겨있었으나 푸앙카레는 삼체문제를 오늘날의 혼돈현상과 연결시키지 못했다. 푸앙카레의 삼체문제의 해에는 혼돈 현상의 본질이 담겨 있었지만 혼돈 현상에 대한 완전한 발견은 에드워드 로렌츠와 로버트 메이에게 남겨두었다.
19세기 말과 20세 초가 되면서 결정론적 세계관은 큰 도전에 직면하게 되었으며 과학자들은 질서 있는 시스템이 무질서해지는 방식에 관심을 가지게 되었다. 입자들이 많은 시스템에서 질서 정연한 상태와 무질서한 상태를 모두 아우르는 과학 체계에 대해서 관심을 가지기 시작했으며 그 체계가 바로 열역학과 통계역학이다. 통계역학은 분자들이 무질서하게 운동하는 기체나 액체와 같은 시스템을 상태를 설명할 뿐만 아니라 아름다운 보석의 구조를 설명할 수 있는 과학적 체계이다. 20세기 중순까지 질서 있는 시스템이 불규칙한 운동이나 무질서한 운동으로 전이하기 위해서는 입자들이 많아져야 한다고 생각했다. 입자 하나하나의 역학적 상태를 묘사하기 위해서 필요한 독립적 좌표의 수를 자유도(degree of freedom)라 한다. 입자수가 많은 시스템의 자유도는 따라서 많아진다. 시스템이 혼돈스러운 상태가 되기 위해서는 자유도가 많을 때 가능하다고 생각했다. 많은 과학자들은 자유도가 큰 유체의 난류(turbulence)와 같은 방식으로 복잡한 운동이 발생한다고 생각했다. 물과 같은 유체는 많은 입자로 구성되어 있으므로 시스템의 자유도가 아보가드로수보다 훨씬 크다. 유체가 느리게 흐를 때는 규칙적인 운동인 층흐름(laminar flow)을 보인다. 유체의 레이놀즈 수(Raynold’s number)가 임계값보다 커지면 유체의 흐름은 소용돌이를 만들면서 매우 무질서한 흐름을 나타낸다. 이러한 난류(turbulent flow)로의 전이가 복잡성과 무질서한 운동의 전형이라고 생각하였다. 난류 흐름에서 다음 상태의 예측은 매우 어려운 일이 된다. 따라서 자유도가 작은 시스템에서 혼돈스러운 운동은 없을 것이라 생각했다.
과학적 측면에서 물체의 운동은 여러 가지의 모습이 있다. 과학자들이 좋아하는 운동은 주기적인 운동(periodic motion)이다. 주기적인 운동은 운동이 규칙적이므로 미래를 정확하게 예측할 수 있다. 두 번째 형식의 운동은 정상상태 운동(steady-state motion)이다. 정상상태는 운동 자체가 시간에 의존하지 않는 운동이다. 또 다른 가장 흔히 볼 수 있는 운동의 형식이 무질서한 운동(random motion)이다. 주기성도 없으며 운동의 모습이 아주 불규칙하다. 또 다른 운동의 형식은 혼돈적 운동(chaotic motion)이다. 혼돈적인 운동은 운동의 모습이 매우 불규칙하지만 그 속에 어떤 구조를 포함하고 있다. 자, 이제 혼돈 현상을 발견한 여정을 따라가 보자.
(2022년 6월 13일)
