「카오스」
제임스 글릭
자연은 다채롭고, 변화무쌍하며, 생동감이 넘친다. 규모가 몇십억에 달하는 인류만 하더라도 하나의 종이라는 생물학적 공통점 외에는 개인의 척도에서 보았을 때 그 다양성은 말로 설명할 수 없다. 도대체 무엇이 이러한 다양성을 만드는가? 자연이 자신을 구성하며 발전시키는 방식은 무엇인가? 자연은 우리에게 자신의 모습을 어떻게 드러내는가? 이러한 질문들에 답하는 것이 과학의 목적 그 자체이다. 이렇듯 우리를 둘러싸고 있는 세상을 이해하고 설명하려는 시도는 고대에서부터 이어져온 전통적인 인간의 과업이었다. 'Science'의 어원이 앎, 즉 지식이라는 뜻의 라틴어 'scientia'에서 유래되었듯이, 물리적 세계 그 자체인 자연을 적확하게 기술하려는 과학의 자세는 고대 그리스에서부터 시작되어 현대에까지 이르렀다.
고전과학은 유클리드 기하학과 뉴턴 역학을 가지고 자연을 바라보았다. 직선적이고 선형적이며 지극히 결정론적인 것처럼 보인다. 이러한 플라톤적 관념들을 가지고 자연을 매끄럽고 완벽하게 기술하고 예측하리라고 선언했던 이들이 있었다. 정녕 이것이 자연의 본질인가?
이러한 고전적인 사고는 상대성이론과 양자역학, 비유클리드 기하학 등의 혁명을 겪으면서 바뀌어 갔고, 책의 주제인 카오스 이론 역시 이 중 하나이다. 이제 물리학은 척도로 분류하였을 때 자연을 기술할 수 있는 세 가지의 펜을 가지고 있다. 행성과 같은 우주적 규모의 상대성이론, 원자적 규모의 양자역학, 그리고 인간이 인식하고 다룰 수 있는 규모의 비선형 동역학, 즉 카오스 이론이다.
'단순함에서 비롯된 복잡함', '유한 면적 안의 무한 길이', '초기조건의 민감성', '결정론적 계에서 비롯된 비주기적, 비선형적 운동 행태', '프랙탈', '나비효과', '이상한 끌개', '질서 정연한 무질서', '복잡함 속의 보편적 규칙', '동역학적 피드백의 자기 유지 과정'. 모두 카오스 이론을 잘 드러내는 문구들이다. 많은 중요한 자연 현상들은 수학적 모델, 즉 몇 개의 방정식으로 완벽하게 표현되는 결정론적 계로 표현할 수 있고, 이때 카오스적으로 나타난다. 카오스적이라는 말은 아무런 규칙이 없는 것처럼 무작위적으로, 복잡한 비주기적 운동행태를 보인다는 것이다. 분명히 결정론적이라고 하지 않았던가?
한때는 이러한 현상을 누락된 조건으로 인한 오차, 프로그래밍 오류 등으로 치부했고, 교과서는 아예 비선형성 자체를 하찮게 여기고 대부분의 지면을 선형적 해법에 할애했다. 그러나 로렌츠, 파이겐바움 등의 카오스 전도자들에 의해 복잡하고 절망적이던 카오스 속에서 보편적인 규칙이 발견되었다. 카오스 이론이 혁명으로 불리는 이유는 전혀 상관이 없는 것처럼 보이던, 서로 다른 분야의 언어로 기술되던 수많은 복잡한 현상들이 비선형 동역학이라는 보편적이고 중추적 법칙 아래 이해됐기 때문이다. 그리고 단순히 수학과 물리라는 학문적 영역뿐 아니라 망델브로 집합, 줄리아 집합과 같이 프랙탈 구조가 밝혀지고 이를 시각화함으로 이해하게 된 자기 유사성이라는 성질이 수많은 자연현상 속에 깃들어 있었던 것이다. 즉 '보편성'이라는 거대한 특징이 자연을 바라보는 관점 자체를 바꿔버린 것이다.
초기의 카오스 연구자들은 수학이라기엔 너무 엄밀하지 않고, 물리학이라기엔 너무 추상적이었던 간극 사이에 놓여서 상당히 철학적이고 정성적인 착상에서 출발했다. 때문에 때로는 신비주의자, 혹은 철학자라는 소리를 들으며 주류 과학에서 동떨어진 이단아 취급을 받기 일쑤였다. 그러나 이러한 접근이야말로 진정으로 자연의 본질이 무엇인지 파악하기에 더할 나위 없이 적절했다. 해안선이라는 주제에 대해서 망델브로가 생각한 바와 같이, 자연은 본질은 직선적이고 선형적인 고전적 관점으로 이해되지 않는다. 오히려 뒤틀려 있고, 꼬여 있고, 불규칙하며$-$거시적으로$-$, 울퉁불퉁한 모습이야말로 자연을 있는 그대로 드러낸다.
출처: https://namu.wiki/w/%EC%BD%94%ED%9D%90%20%EA%B3%A1%EC%84%A0이를 직관적으로 설명해 주는 하나의 예시는 바로 코흐 눈송이다. 코흐 눈송이는 삼각형이라는 단순한 도형에서 일련의 알고리즘, 즉 반복적인 과정을 거쳐서 만들어 낼 수 있는 도형이다. 주목할만한 점은 코흐 눈송이의 면적은 하나의 값으로 수렴하지만 둘레의 길이는 무한대로 발산한다는 것이다; 즉, 유한한 면적에 무한한 길이의 선이 갇힌 셈이다. 어떻게 이런 일이 가능할까? 언뜻 보면 모순처럼 여겨지는 코흐 눈송이를 보며 필자는 하나의 직관을 떠올렸다. (이하 내용은 필자의 주관적인 생각이다.) 무한한 길이의 선을 유한한 면적에 채워 넣으려면 매우 높은 밀도로 압축하여서 평면에 꾸겨 넣어야 할 것이다. 이때 마구잡이로 꾸겨 넣으면 당연히 한계가 있을 것이기에 규칙성을 가지고 압축해야 한다. 이때 생각할 수 있는 가장 단순하고 자명한 규칙은 바로 자기 자신의 구조를 반복하는 것이다. 주어진 게 그것밖에 없지 않은가? 따라서 자기 자신의 구조를 반복하는 알고리즘을 거치게 되고, 이러한 과정의 결과가 바로 프랙탈이고 코흐 눈송이인 것이다. 또한, 이러한 과정은 무한히 반복되기에 겉으로 보기에는 정적이고 완료된 것처럼 보여도 계속 확대하다 보면 여전히 자기 자신을 반복하여 만들어내고 있는 동적인 상태에 놓여 있다. 즉 자연은 이러한 동역학적 피드백의 자기 유지 과정에 따라 자신을 창조하며 유지하고 있으며, 계속해서 과정을 반복하여 진화하고 성장한다.
전 문단에서 설명했듯이, 코흐 눈송이는 무한한 길이의 선을 매우 높은 밀도로 압축한 것으로 바라볼 수 있다. 이는 평범한 도형과는 비교할 수 없는 양의 정보 혹은 물질을 담고 있다고 해석할 수 있으므로 일종의 물체의 효율성을 생각할 수 있다. 즉 이러한 프랙탈적 구조는 기능적으로 매우 효율적인 구조이며, 왜 인체의 혈관을 비롯한 수많은 자연물이 프랙탈적 구조를 띄고 있는지는 이러한 점에서 자명하다.
또한 프랙탈은 자기 유사적 성질을 가진다. 즉 어떻게 확대하든 간에-다시 말해 축척, 즉 스케일에 관계없이 보편적인 구조를 가진다는 것이다. 그렇다면 이러한 구조를 수치화시켜서 고유한 값으로 나타낼 수 있고, 이것이 바로 하우스도르프 차원이라고도 부르는 '소수 차원'이다.
이처럼 카오스 이론은 자연에 내재된 복잡성을 지극히 단순한 언어로 풀어서 설명하며, 축척이나 현상들의 세세한 특징들을 모두 관통하는 보편적인 하나의 규칙을 제시한다. 카오스 이론가들은 카오스 현상이 나타났을 때 그 안에 존재하는 형상, 즉 패턴들을 찾으려고 했다. 수많은 과학적 혁명들이 인류에게 알려준 한 가지 교훈은 바로 자연은 인간의 직관대로 생겨먹지 않았다는 것이다. 상대성이론이 시사하는 바는 무엇인가? 바로 절대적이라고 믿었던 시간과 공간조차 관찰자 개개인에 따라 상대적이며 가변적이라는 것이다. 그러나 이러한 자연은 상대성이론의 법칙과 방법들로 보편적으로 기술할 수 있고 이해될 수 있다. 본문은 카오스 이론의 선구자인 미셸 파이겐바움을 언급하며 다음과 같이 서술한다.
엄연한 물리적 실재와 물리적 실재에 대한 가변적이고도 주관적인 인식을 구별하는 것이다.
(...)
파이겐바움은 인간의 인식, 특히 혼란스럽게 뒤섞인 경험을 체로 걸러내 보편적 성질을 찾아내는 인식과 일치하는 수학적 공식들은 어떤 것이 있는지 자문했다.
즉 항상 세계에 관한 보편적 지식을 찾아내 온 인간의 인식에 주목한 것이다. 이와 같이 자연은 상대적이고 가변적인 것처럼 보인다. 마치 측정에는 항상 불확실성이 있고 조그마한 초기조건의 변화에도 계가 민감하게 반응하여 처음과는 전혀 다른 결과를 내놓듯이 매우 변동적이고 혼란스러워 보인다. 그러나 이러한 초기조건의 민감성과 동역학계의 비선형성이 있기에 그토록 다채롭고 풍부한 운동행태를 만들어내는 것이다. 따라서 처음의 질문으로 돌아가서, 자연이 이토록 다채롭고 다양성을 보이는 이유는 바로 자연이 자신을 구성하고 드러내는 원리가 카오스이기 때문이다. 카오스는 자연의 본질이다. 직선적이고 선형적인 유클리드 세계관이 자연을 여실히 드러내는 것이 아니라, 뒤틀려 있고 복잡하며 울퉁불퉁한 모습이야말로 자연 그 자체이다. 그리고 우리는 비선형 동역학이라는 보편적 언어로 자연을 기술할 수 있고, 예측할 수 있으며, 유용하게 사용할 수 있다. 이제 환원주의적인 과학적 접근 방법은 예전만큼의 위상을 잃었다. 대신 그 자리를 전체를 조망하고 모든 것을 통틀어서 이해하려는 사고방식이 차지했다.
카오스 혁명은 여러 가지로 그 의미하는 바가 크다. 기존의 사고방식을 뒤엎고 보다 더 자연을 적확히 이해하는 방법을 제공했을 뿐만 아니라, 전통과 관습으로 각자의 우물 안에 매몰되어서 다른 분야와는 담을 쌓고 지내던 과학에 통섭의 물꼬를 튼 점에서 그 의의가 있다. 카오스 연구자들은 엄격한 증명과 논리적 사고를 요구했던 수학, 그리고 수치적 데이터와 실험적 증거를 요구했던 물리학이라는 두 영역의 이론과 방법론을 모두 가져와서 자신들이 옳다고 생각한 철학과 신념을 담아 카오스 이론을 제창했다.
무엇보다도 다양한 분야들의 통합, 즉 통섭이 중요하다는 생각이 드는 지금, '자연이란 무엇인가?'라는 질문에 답하기 위해 하루 온종일 자신을 내던져 치열하게 탐구하고 사유했던 고대 그리스 자연철학자들이 떠오른다. 진정한 자연의 본질의 앎을 추구했던 카오스 연구자들의 이야기와 카오스 과학의 발전과정을 <카오스>를 통해서 알 수 있었다. 이 책을 읽은 경험이 비록 내 인생에서 한 번의 나비의 날갯짓에 불과할 수도 있겠지만, 그 조그마한 섭동이 점차 증폭되어서 하나의 허리케인이 되는, 그러한 나비효과를 기대해 본다. 마치 로렌츠가 잠깐의 시뮬레이션 결과로부터 장기 기상 예측의 필연적 실패를 깨닫게 된 것처럼.
