토끼섬에서 토끼의 운명은?
새로운 과학 패러다임 혼돈 현상 (복잡계 과학)
로버트 메이(Robert May, 1936-2020)는 24살에 호주의 시드니 대학에서 보손(boson, 스핀이 정수인 입자를 통칭)과 초전도체(전기 저항이 없는 물체)에 대한 연구로 1959년에 이론물리학 박사학위를 취득하였다. 1969년에 시드니 대학교 이론물리학 교수가 된 메이는 지구의 운명과 사회에 큰 빚을 졌다는 사명감 때문에 생태계의 안정성에 대한 수학적 모형에 관심을 가지게 되었다. 메이는 1970~1971년에 연구년을 지내면서 1년은 영국을 방문했고 나머지 1년은 프린스턴 고등연구소(Institute of Advanced Study)를 방문했다. 프린스턴 고등연구소는 나치의 박해를 피해서 미국으로 망명한 아인슈타인, 폰 노이만 등이 근무했던 바로 그 연구소이다. 1971년 메이는 프린스턴 대학교에서 생태학자 로버트 맥아더(Robert McAthur)를 방문했다. 맥아더는 당시 유명한 생태학자였다. 맥아더는 처음에 15분간의 면담 시간을 잡아 주었지만, 메이와 얘기를 나누면서 30분 이상 면담을 했으며 그때 메이의 가능성을 알아보았다. 그 당시 맥아더는 말기 암을 알고 있었기 때문에 자신의 뒤를 이을 학자를 찾고 있었다. 맥아더는 메이가 시드니로 떠나기 전에 프린스턴 대학교에서 자신의 뒤를 이어서 교수직을 맡아 달라고 제안하였다.
시드니로 돌아간 메이는 그의 기념비적인 저서인 “생태 모형에서 안정성과 복잡성(stability and complexity in model ecosystems)”를 쓰기 시작하였으며 1973년에 발표하였다. 이 책에서 메이는 생태학(Ecology)의 창시자 찰스 엘톤(Charles Elton)이 주장한 “복잡성이 증가할수록 생태계는 더 안정하다”는 도그마와는 반대로 “경쟁하는 생태계에서 다양성(diversity)이 증가할수록 안정성이 떨어진다”는 이론을 주장하였다. 물론 이 주장은 종들이 무작위로 경쟁하는 생태계에서 성립하지만 기존의 도그마에 의문을 던지는 혁신적인 주장이었다. 메이의 이 주장은 최근까지 확고한 지위를 누렸지만 복잡계 과학이 발전하면서 도전을 받게 된다. 사실 메이가 이론 생태학에서 커다란 명성을 쌓으면서 "메이 가라사대~"와 같이 메이가 주장하면 반증 없이 추종하는 팬덤이 생길 정도였다. 그러나 종의 숫자가 많고 다양성이 높은 생태 시스템은 매우 안정된 상태를 유지한다는 것을 복잡계 과학 이론이 발전하면서 알게 되었다. 메이는 1973년에 프린스턴 대학교의 동물학과 교수가 되었다. 이 자리는 맥아더의 교수직을 계승한 것이었다. 메이가 프린스턴 대학교의 교수직을 수락한 배경에는 그가 연구년을 보낼 때 만나서 결혼한 그의 아내 역할도 큰 역할을 하였다.
토끼섬의 토끼 개체수는
결정론적 점화식으로 나타낼 수 있다!
1960년대에 인구 동력학 부분에서 몇 가지 발견이 있었다. 첫 번째는 종의 개체수가 해마다 변동하며 안정된 상태를 유지하는 경우가 드물었다. 둘째, 어떤 종의 개체수는 몇 년을 주기로 진동하였다. 셋째 곤충의 수와 같이 어떤 종의 개체수는 폭발적으로 늘어나서 예측하기 어려웠다. 대규모 메뚜기 떼가 갑자기 창궐하데, 그 시기를 예측하기는 몹시 어렵다. 생태학자들은 종의 개체수 변화를 밀도 의존 요소와 밀도에 의존하지 않는 요소로 나누어 생각했다. 개체들은 먹이 경쟁을 하므로 개체 밀도가 너무 높으면 사망률이 증가한다. 기후 변화와 같은 요소는 인구수에 의존하지 않는다. 메이는 1973년부터 1976년 사이에 생태계 모형에서 혼돈 현상 연구를 새롭게 여는 기념비적인 논문들을 출판하였다. 메이가 1974년 단독으로 Science지에 출판한 논문의 제목은 “겹치지 않는 세대에서 생물학적 개체수: 안정점, 안정 순환 그리고 혼돈(Biological populations with nonoverlapping generations: Stable points, stable cycles, and chaos)”이었다. 사실 메이는 이 논문이 출판되기 전에 메릴랜드 대학교(University of Maryland) 수학과에서 이 논문의 내용을 발표하였다. 메이는 시간은 1년, 2년,... 과 같이 1년 단위로 증가한다고 생하고 매년 고립된 섬에서 생물 종의 개체 수가 어떻게 변할까 생각해 보았다. 메이는 이 논문에서 개체의 인구수를 결정론인 점화식 형태의 비선형 방정식으로 표현했으며 시간은 1년 단위로 증가한다.
메이가 제안한 고립된 섬에서 토끼의 개체 수의 변화를 나타내는 방정식을 "병참 본뜨기(logistic map)" 또는 "로지스틱 맵"이라 부른다. 로지스틱은 인구수, 개체수, 물류, 군대에서 병참 등의 뜻을 가지고 있는데 개체수 또는 인구수의 변화를 뜻한다. 어쩐 일인지 물리학자들은 logistic map을 병참 본뜨기 또는 병참 사상으로 번역하였다. 병참은 군대 용어인 듯하다. 아마 더 좋은 번역이 있겠지만 관습상 이 용어를 쓰기로 한다. 병참 본뜨기에서 방정식의 조절 변수를 변화시킴에 따라 생태계의 인구수가 주기 2, 4, 8, 16, 32, 64,.....으로 증가하면서 마침내 혼돈 상태(주기가 없는 상태)로 변하였다. 생태계 인구 동력학 모형에서 혼돈 현상을 발견한 최초의 논문이라고 할 수 있다. 사실 혼돈(chaos)이란 용어는 그 이전에 널리 사용되지 않았는데 메릴랜드 대학교에서 메이의 강연을 듣고 있던 메릴랜드 대학교 수학과의 제임스 요크(James Yorke)와 같이 강연을 듣고 있던 요크의 대학원 학생 티엔리엔 리(Tien-Lien Li)가 “혼돈(chaos)”이란 용어를 제안하면서부터이다. 리와 요크가 1975년 월간 미국 수학 회지(The American Mathematical Monthly)에 출판한 "삼주기는 혼돈을 암시한다(Period Three implies chaos)”는 메이의 강연을 듣고 병참 본뜨기 모형을 수학적으로 발전시켜서 혼돈 현상을 다른 논문이고 그들이 제안한 혼돈(chaos)이란 용어를 널리 퍼뜨린 논문이 되었다. 그들이 제안한 혼돈이란 용어는 1974년 메이의 논문에 채택되어 처음 학술지에 소개되었다. 1978년에 파이겐바움(M. J. Feigenbaum)은 병참 본뜨기에서 ‘주기 배가 혼돈 루트(period doubling route to chaos)’를 처음으로 제안하였다. 이후로 혼돈 현상에 대한 연구는 폭발적으로 늘어났다. 1980년대는 다양한 분야에서 혼돈 현상을 연구하였다. 메이의 이론은 아주 간단한 모형에서 생태적 미래를 예측하는 것이 불가능하다는 놀라운 것이었다. 오늘날 우리가 알고 있는 나비효과를 생태 시스템에서 발견한 것이다. 에드워드 로렌츠가 기상 모형에서 나비효과를 발견했다면 메이는 간단한 생태 인구 동력학 문제인 병참 본뜨기에서 나비효과를 발견하였다.
비선형성이 혼돈을 이끈다!
메이가 제안한 병참 본뜨기는 고립된 생태계에서 생물 개체의 인구수 변화를 생각한 것이다. 예를 들어 고립된 섬에 토끼들이 살고 있다. 어떤 생태학자가 매년 섬의 토끼수를 조사한다. 올해 토끼의 수를 N(n)이라 하자. 여기서 소문자 n은 연도를 나타낸다. 내년의 토끼의 수는 N(n+1)이다. 메이는 시간이 불연속적으로 증가할 때 토끼 수를 예측하는 식을 썼다. 그가 쓴 식은 N(n+1)=a*N(n)-b*N(n)*N(n)이다. 여기서 a는 토끼의 성장률(growth rate)을 나타낸다. 기호 *는 곱하기를 의미한다. 토끼는 새끼를 낳기 때문에 스스로 인구를 늘이거나 줄일 것이다. 성장률이 a>1 이상이면 토끼의 수는 계속 증가할 것이다. 위 식의 오른쪽 두 번째 항이 없고 성장하는 항만 있는 경우는 N(n+1)=a*N(n)이다. 섬에 토끼를 풀어놓은 해를 n=0으로 놓고 토끼의 개체 수를 N(0)라 하면 토끼 수는 다음과 같이 성장한다. 첫해의 토끼수는 N(1)=a*N(0)이고, 두 번째 해의 토끼수는 N(2)=a*N(1)=a*a*N(0)=a^2*N(0)이다. 바로 전해의 토끼의 수가 다음 해의 토끼의 수를 결정한다. 이식을 계속 적용해 보면 n번째 되는 해의 토끼의 수는 N(n)=a*N(n-1)=a^2*N(n-2)=...=a^n*N(0)이다. 여기서 a^n은 a에 n승한 것을 나타낸다. 토끼의 수를 결정하는 것은 성장률 a와 처음 토끼를 풀어놓을 때 토끼수 N(0)이다.
토끼의 성장률이 a>1 이상이라면 토끼의 개체수는 기하급수적으로 증가할 것이다. 이러한 현상을 맬서스(Malthus)의 인구폭발(population explosion) 현상이라 한다. 맬서스는 식량은 선형적으로 증가하는 데 비해서 인구수는 기하급수적으로 증가하므로 지구는 미래에 인구를 지탱할 수 없을 것이라고 예견하였다. 과연 그런가? 그런데 고립된 섬은 먹이가 제한되어 있어서 이러한 일을 일어나지 않는다. 먹이가 제한된 섬에서 토끼들은 서로 먹이 경쟁을 할 것이다. 메이는 이러한 경쟁의 효과를 병참 사상의 오른쪽 식의 두 번째 항으로 나타냈다. 두 개체가 서로 만나면 경쟁이 일어나므로 경쟁의 효과를 b*N(n)^2으로 나타내었다. 경쟁은 토끼의 수를 줄이기 때문에 -b*N(n)^2으로 나타내어 다음 해의 토끼 수를 줄이는 효과를 준다. 즉, 경쟁은 항상 토끼 수를 줄인다. 따라서 메이의 병참 사상은 토끼가 스스로 성장하는 첫 번째 항과 경쟁에 의해서 토끼 수가 저절로 줄어드는 경쟁 항을 가진 매우 간단한 점화식이다. 성장률 a와 경쟁 맺음 변수(competing parameter) b를 알고, 첫해의 토끼 개체수를 알면 올해의 토끼 수는 결정론적으로 정해지는 결정론 방정식(deterministic equation)이다.
혼돈 현상은 조절 맺음 변수가
혼돈 영역에 있을 때 발생한다!
메이의 병참 사상은 간단한 변수 변환 과정을 거치면 조절 맺음 변수(control parameter)가 하나인 식으로 쓸 수 있다. 토끼의 개체수는 항상 0보다 커야 하며, 개체수의 최댓값은 N_max=a/b이다. 여러분은 간단한 미분으로 이 값을 구할 수 있다. 이제 변수를 x(n)=N(n)/N_max = b*N(n)/a로 바꾸어 보자. 여러분이 고등학교 수학 시간에 쓸모없이 수학의 변수 변환을 배운 것이 아니다. 자연현상, 공학, 경제현상을 표현하는 식들은 변수를 바꾸면 훨씬 간단해지는 경우가 많다. 이제 개체의 수 N(n) 대신에 x(n)으로 메이 방정식을 표현하면 병참 사상은 x(n+1)=r*x(n)*[1-x(n)]이 된다. 이렇게 표현한 식에서 0 <= x(n) <= 1이다. 이 점화식에서 조절 변수는 성장률 r 하나이다. 이 식을 표준 병참 사상(logistic map)이라 하고 로버트 메이가 처음 발견하였다. 이 병참 사상은 혼돈 현상의 한 가지 방식인 갈래질 혼돈의 길(Bifurcation route to chaos)의 전형을 보여준다. 메이 방정식에서 혼돈 현상을 일으키는 결정적인 역할은 바로 둘째 항의 비선형성이다. 비선형 항이 없으면 혼돈 현상을 일어나지 않는다.
메이가 발견한 이 1차원 점화식은 시스템의 미래 상태를 예측하는 방식에 대한 새로운 패러다임을 제시했다. 앞에서도 얘기했듯이 물리학자들은 시스템이 무질서한 운동을 하기 위해서는 시스템을 표현하는 독립적인 좌표의 수가 많아야 한다고 생각했지만, 메이의 병참 본뜨기는 좌표의 수가 1개뿐이지만 시스템 자체에 예측 불가능성을 본질적으로 내재하고 있다. 에드워드 로렌츠의 동력학적인 발견과 더불어서 메이의 발견은 자연을 이해하는 관점과 결정론적 세계에서 예측 불가능성에 대한 철학적 질문을 던지고 있다. 최근에 인공지능, 기계학습, 딥러닝 방법으로 데이터의 패턴을 보고 그 시스템이 혼돈 영역에 있는지 판별하려는 연구가 진행 중이다. 시스템이 혼돈영역에 있는지 주기적 영역에 있는지 아는 것만으로도 많은 정보를 알 수 있다. 점화식으로 묘사되는 인구 동력학 시스템에서 갈래질 혼돈 현상에 대한 자세한 내용은 다음번 글에서 자세히 설명해 보겠다.
[참고 문헌]
R. C. Hilborn, “Chaos and Nonlinear Dynamics” 2nd edition, (Oxford Univ. Press, Oxford, 2000).
R. May, “Simple mathematical models with complicated dynamics”, Nature 261, 459-467 (1976)
T.-Y. Li, J. A. Yorke, “Period thress implies chaos”, Am. Math. Mon. 82, 985-992 (1975).
R. M. May, “Biological populations obeying difference equations: stable point, stable cycles, and chaos”, J. Theor. Biol. 51, 511-524 (1975).
R. M. May, “Biological populations with nonoverlapping generations: Stable points, stable cycles, and chaos”, Science 186, 645-647 (1974).
R. M. May, "Stability and Complexity in Model Ecosystems" (Princeton Univ. Press,
Princeton, N.J., 1973).
