2013년, 『카오스』가 20주년이 되어 기념판으로 출판되었다. 초판본의 기억은 가물가물해서 어떤 번역이 나은지 비교할 수는 없지만 하나 확실한 건 내가 알고 있던 ‘만델브로트’라는 이름이 ‘망델브로’라고 새로 (원래 발음에 맞게) 번역되었다는 것이다. 나는 이 책을 20년 전에 읽었다. 물론 내가 어릴 때라 책의 절반도 이해할 수 없을 나이었지만(책의 수준은 교양서임에도 불구하고 전문용어가 매우 많아서 쉽지 않은 수준이다) 책의 중간에 끼워져 있던 컬러 화보집은 당시 중학생인 나에게 최고의 경험이었다. 계속 확대해도 새로운 구조가 연이어 나타나던 망델브로 집합의 순수한 아름다움이 뇌리에 깊숙히 남았다. 이 컬러 페이지 자체가 나의 과학적 아름다움과 열정을 일깨워 주는 결정적인 역할을 했다.
망델브로 집합
초판본을 읽은 후로 나는 컴퓨터를 가지고 이 책에 나온 여러 가지 시뮬레이션들을 시도해 보았다. 책에 나온 그대로 구현하기는 정말로 쉬웠다. 그냥 엑셀을 띄우고 셀 하나에 초기값을 쓴 후에, 수식을 만들어 복사하기만 하면 된다. 아, 물론 그래프도 만들어 놓아야 한다. 그리고 초기값들을 이리저리 수정해 본다. 그러면 그래프가 이리저리 변한다. 내가 맨 처음 시도해 본 것은 3장의 ‘생명체의 번성과 감소’에 나오는 주기 배가 그래프였는데, 주기가 8주기 이상으로 뛰는 어떤 ‘경계값’에 다가갔을 때(이정도 되면 세밀하게 소숫점 아래 4~5번째 자리를 조정해야 해서 사실상 카오스 상태의 경계값에 다가갔다고 치는 수밖에 없었다)의 희열을 잊을 수가 없다. 카오스를 직접 시뮬레이션한 것이었다. 중학생이 직접 우주의 카오스 현상을 관찰할 수 있었다. 그 후로도 여러 가지 시도를 해 보았다. 프로그래밍을 배운 후에는 망델브로 집합을 직접 만들어 보기도 했고(책에 나오는 식의 알록달록한 컬러코드를 넣지는 못했다. 확대도 안되는 단순 직교좌표 그래프였다), 3차원에서 빙글빙글 돌아가는 스트레인지 어트랙터를 3차원 그래프로 표현해 보기도 했다. 당시에도 그렇게 생각했고 지금도 그렇게 생각하지만 수학과 관련된 과학 개념들은 이렇게 직접 뭔가를 해 보거나, 적어도 종이에 수식이라도 끄적여 봐야 이해의 지평이 넓어진다.
Strange Attractor
‘카오스’라는 것을 진정 이해할 수 있게 된 시기는 대학교 학부 시절 미분방정식을 배웠을 때였다. 책에 뻔질나게 나오는 ‘비선형’이란 단어가 무엇을 뜻하는 지를 이제야 알게 된 것이다. 뉴턴역학에서 대학교 학부 수준 정도 되면 그냥 방정식이 아닌 미분방정식을 풀게 되는데, 이 때 풀리는 방정식과 풀리지 않는 방정식으로 나눌 수 있다. (풀리지 않는 방정식이 영원히 풀리지 않을 것인지는 아무도 모르고, 왜 아무도 모르는지에 대해선 또 괴델의 ‘불완전성의 정리’가 증명한다. 어떤 방정식은 누군가가 푸는 방법을 증명해 내지만, 어떤 풀리지 않는 방정식이 ‘언젠가 풀릴수 있을지 아닌지’를 증명하는 방법은 거의 없다.) 보통 풀리는 방정식은 ‘선형성’이라는 특성을 가지고 있다. 풀리지 않는 방정식은 보통 ‘비선형적이다’라고 표현한다. 갈릴레오 때부터의 전통이지만, 우리는 비선형성을 물리학의 순수함을 해치는 ‘공기저항’ 같은 것으로 치부한다. 공기저항의 변인을 제거하지 못해서 ‘물체는 언젠가 멈추는 본성이 있다’고 잘못 추론한 아리스토텔레스의 절차를 다시 밟지 않기 위함이다.
그러한 전통으로 인해 물리학자들은 비선형 방정식을 ‘풀지 못하지만, 풀 필요도 없다’고 생각한다. 물리학의 정수는 오로지 선형성에만 있는 것이다. 그래서 중학생도 컴퓨터만 있으면 시뮬레이션해 볼 수 있는 ‘비선형의 세계’는 아무도 찾지 않는 버려진 땅이 되었다. 물론 컴퓨터가 없으면 탐험하기도 힘든 땅이긴 했다. 비선형의 황무지는 인간의 증명보다는 컴퓨터의 수치해석이 더 어울리는 탐험 과정이었으니까.
비선형의 세계는 실질적으로 선형의 세계보다도 더 넓다. 마치 보르헤스 「바벨의 도서관」에서 도서관의 책이 '의미를 지니는 책' 또는 '의미를 지니지 않는 책' 둘로 나뉘어 있다고 할 때, 우리가 아무 책이나 집었을 때 무의미한 책이 집힐 확률이 엄청나게 높은 것처럼 넓다. 실수의 집합에서 무리수가 유리수보다 더 조밀한 것처럼 많다(무슨 소리냐면, 칸토어란 사람이 무리수가 유리수보다 더 많음을 수학적으로 증명했다. 그 얘기다.) 실수선에서 랜덤으로 한 점을 찍으면 100%의 확률로 무리수를 찍게 된다(칸토어의 증명!). 우리가 접할 수 있는 물리적 상황은 100%의 확률로 비선형의 상황이 될 것이다.
그렇다고 이 비선형의 세계가 마냥 무의미한 것도 아니다. 망델브로 집합의 아름다움이나 스트레인지 어트랙터의 화려한 날갯짓을 보면 여기에 어떤 ‘정수(essence)’가 전혀 없을 거라고는 아무도 생각하지 못한다. 눈이 부시게 아름다운 무한함과 그 무한한 정보들이 보잘 것 없는 수식을 통해 나왔다는 것은 인간의 머리로 이해하기 쉽지 않다. 우리는 엄청나게 복잡한 장치(뇌)를 가지고 우리가 예술이나 아름다움이라 부르는 이것저것들을 그리고 만들어 내지만, 우주는 뇌는 커녕 거의 아무 것도 없는 상태로 무한대로 복잡한 아름다움을 창조해 낼 수 있다는 것이다. 경외감마저 느껴질 정도이다. 종교적 희열에 버금가는 환희의 순간을 느낄 수 있다. 분명 내가 종교를 창시한다면 분명 망델브로 집합을 종교적 상징물로 삼을 것이다.
카오스라는 학문의 정체
책에도 나오는 얘기지만 카오스 이론은 수학도 아니고 물리학도 아니다. 물리학의 범주에 넣을 수 없는 추상적 주제를 연구하지만 방법론 자체는 수학의 방법(증명과 엄밀성)을 따르지 않는다. 이에 대해 ‘숫자와 함수에 대한 물리학’이라는 파이겐바움의 표현도 일리가 있다. 내가 보기엔 물리학의 한 분야(예를 들어, 양자역학이나 상대성이론과 동급)로 취급되기 보다는 하나의 물리학 분야를 발전시키기 위한 수리물리학적 방법론 (양자역학에서 힐베르트 공간이나 상대성이론에서 텐서 계산법)과 같은 레벨로 보는 것이 타당하지 않을까 싶다. 말하자면 고전역학은 선형적 미분방정식에 이은 카오스 이론이라는 계산 방법론이 하나 더 추가된 것이다.
『카오스』 초판에서는 카오스 이론이 상대성이론과 양자역학에 뒤이은 제 3의 물리학 혁명이라 표현했지만 20주년 기념판의 서문에서는 한 발 물러나 이렇게 표현하고 있다.
James Gleick - Chaos
지금 분명해진 사실은 카오스는 상대성이론과 양자역학으로부터 ‘떼려야 뗄 수 없다’는 것이다. 오직 하나의 물리학이 있을 뿐이다.
내가 볼 때 이것은 초판의 과격한 카오스 이론 추켜올리기에서 한 발 양보해 카오스 이론이 ‘제 3의 혁명’ 정도는 아니라고 에둘러 표현한 것이다. 실제로 카오스 이론이 현재 학계에서 많이들 연구되고 있는지에 대해서는 개인적으로 잘 모르지만 내 생각에 현재는 연구될 건 다 연구되어 새로운 게 나오지 않는 상황이 아닌가 싶다. 책이 씌여진 지 20년 되었고, 그 전에 연구자들이 활발히 연구하던 시절은 60~70년대니까 벌써 50년이나 된 학문이다. 지수적으로 발전하는 현대 사회에서 대단히 넓고 장대한 카테고리가 아닌 이상 어떤 학문이든 50년이면 밝혀질 건 다 밝혀질 거라고 봐야 한다.
그렇다 해도 그 위대한 연구의 의미들이 퇴색되는 것은 아니다. 그리스의 기하학이 몇 천 년이나 계속해서 우리에게 새로운 영감을 불어넣는 것을 보라. 카오스 이론은 존중 받을 자격이 있고, 그 정수를 인정할 수 있는 젊은 연구자들과 과학자들은 계속해서 카오스 이론의 가치를 재발견하고 자신의 새로운 연구에 적용하거나 영감을 받거나 할 것이다. 이 책은 그 핵심적인 역할을 해 왔고, 또한 앞으로도 그렇게 해줄 것이다. 전세계의 어린 학생들이 이 책의 가치를 계속해서 발견해 주길 바란다.