카지노 주사위(2)
"자연이 아름답지 않다면 굳이 알 가치가 없고, 알만한 가치가 없다면 우리의 삶도 가치를 상실한다."--앙리 푸앵카레
저자는 카지노 주사위의 눈금 예측 모형을 당구대의 당구공 예측 모형과 비교한다. 당구대는 가로와 세로의 비율이 2:1인 직사각형이다. 그런데 당구대의 모양을 조금만 바꾸면 당구공은 우리가 늘보던 당구의 궤적과 크게 다른 형태의 궤적을 그리게 된다. 예를 들어 모퉁이를 깎아서 육상 트랙처럼 둥글게 만들면 처음 출발한 당구공의 방향이 조금만 달라져도 궤적에 커다란 차이가 생긴다. 이것이 바로 혼돈의 징표이다.
이제 저자의 질문은 다음과 같이 변형된다. "주사위의 눈금은 전통적인 당구처럼 예측 가능한가? 아니면 둥그런 당구대처럼 혼돈스러운가?" 프랑스의 수학자 앙리 푸앵카레는 "물리 법칙은 수학적이다. 수학적 사실만 충실하게 따라가면 이 세상을 관장하는 물리 법칙에 도달할 수 있다."라고 생각했다. 그의 최고 관심사는 행성의 궤적을 정확하게 계산하는 것이었다.
두 행성 사이에 작용하는 힘(중력)은 모든 질량이 질량 중심에 집중되어 있는 두 개의 점 사이에 작용하는 힘과 같다. 따라서 모든 행성을 점으로 간주하면 태양계의 미래를 예측할 수 있다. 그러므로 태양계의 운동은 행성 하나당 위치를 나타내는 세 개의 좌표와 3차원 공간에서 속도를 나타내는 세 개의 숫자로 서술할 수 있다. 이 모든 정보가 주어지면 뉴턴의 제2법칙을 적용하여 모든 행성의 미래를 예측할 수 있다. 그러나 문제는 계산이 너무 복잡하다는 것이다. 뉴턴 자신도 이 문제를 수학적으로 계산하는 데 포기하고 만다.
그 후 이 문제는 노르웨이와 스웨덴의 왕 오스카르 2세가 자신의 생일을 기념하기 위해 수학 경시 대회를 열었고, 이 대회에 출시된 문제 중에는 태양계의 안정성을 규명하는 문제도 포함되어 있었다. 태양계는 시계처럼 안정된 시스템인가? 아니면 미래의 어느 날 지구를 비롯한 행성들이 궤적을 그리며 사라질 것인가? 이 질문에 답하려면 뉴턴이 포기한 방정식을 풀어야 했다. 당시 35세의 젊은 나이였던 푸앵카레는 이 문제에 도전했다. 그는 완벽한 답을 구하지 못했지만 주기적으로 반복되는 주기궤도(perodic orbit)가 존재한다는 사실을 증명하여 상금의 주인공이 되었다.
왕립 아카데미의 전문 편집자들이 그 논문을 검토하다가 문제점을 발견하였다. "당신의 논문에는 논리상의 공백이 발견되었으니 분명하게 메워달라"는 편지를 그에게 보냈다. 푸앵카레는 자신의 논문을 확인하던 중 심각한 오류를 발견했다. 초기 조건을 조금만 바꾸어도 행성의 궤적이 크게 달라진 것이다. 그래서 논문을 취소해 달라고 편지를 보냈다. 그러나 편집자는 논문집이 이미 출간되었다는 답을 보내왔다. 그는 받은 수상금액보다 더 많은 돈을 다시 송금하고 그 논문의 오류를 수정하기 위해 필사적으로 후속 논문에 매달렸다.
후속 논문의 골자는 "겉보기에 안정된 행성계도 약간의 변화만 가하면 극도로 혼란스러워질 수 있다"는 것이었다. 20세기 수학의 가장 위대한 발견으로 꼽히는 "혼돈(chaos)"의 개념은 이렇게 탄생했다. 그러나 이 이론을 세상에 알린 사람은 미국의 수학자 에드워드 로렌츠였다. 그 역시 푸앵카레처럼 사소한 실수를 통해 혼돈의 중요성을 깨닫게 되었다고 한다. 당시 MIT의 기상학자였던 로렌츠는 날씨 예측 모형의 신뢰도를 높이기 위해 유체의 온도 변화 방정식을 컴퓨터로 실행하고 있었다. 이미 실행한 프로그램에서 얻은 결과를 초기 데이터로 삼아 프로그램을 재실행시키고 잠시 산책을 하고 다시 연구실로 돌아와서 그 결과를 보았다.
그는 모니터를 보고 기절할 뻔했다. 왜냐하면 이전과 완전히 다른 결과가 떠 있었기 때문이다. 입력 데이터를 조금 바꾸었을 뿐인데, 온도가 천지 차이로 변한 것이다. 말도 안 된다. 방정식에 같은 값을 입력하면 답도 당연히 같아야 한다. 상황을 다시 점검한 결과 그는 두 번째 입력값이 첫 번째 입력값과 같지 않다는 것을 발견했다. 그 차이는 0.0005보다 작았으므로 결과가 크게 다르지 않을 것 같았다. 그러나 확인한 결과는 완전히 딴 판이었다. 그래서 로렌츠는 연구 노트에 다음과 같이 적었다.
"두 물리계의 초기 상태가 구별할 수 없을 정도로 거의 똑같다 해도 결과는 크게 다를 수 있다. 현 상태의 측정값에 약간의 오차만 있어도 결과를 신뢰할 수 없다는 점이다. 그러므로 물리계의 먼 미래를 예측하는 것은 현실적으로 불가능하다." 그가 이런 결과를 연구 동료에게 말했더니 이런 대답이 돌아왔다. "자네의 말이 옳다면 갈매기 한 마리의 날개짓이 인류의 역사를 통째로 바꿀 수도 있겠네." 로렌츠는 자신의 연구 결과를 1972년에 미국과학진흥회의 연구논문집에 <브라질 나비의 날개짓이 텍사스에 태풍을 일으킬 수 있는가?>라는 제목으로 발표했다.
미국 기상청에서는 전국의 기상관측소에서 보내온 데이터를 방정식에 곧바로 입력하지 않고 데이터를 조금씩 바꿔서 날씨 예측 프로그램을 수천 번 돌린 후 가장 확률이 높은 경우를 골라서 예보하고 있다. 그런데도 장기 예보의 신뢰도는 별로 높지 않다. 오늘날에도 하루나 이틀의 일기 예보는 잘 맞는 편이지만 5일 후의 예보는 자주 틀려서 믿는 사람이 거의 없다. 일기 예보에 동원되는 데이터의 량과 컴퓨터의 기능은 거의 최상급이다. 그럼에도 3일 후의 일기 예보는 믿기 어렵다. 일기 예보가 그런데 과연 주가 예측이나 부동산 시세 예측을 어떻게 믿을 수 있을까? AI를 통한 높은 확률의 예측? 이런 내용의 표어가 뜨면 일단 <과장 광고>라고 보면 정확하다.
1976년 오스트레일리아 태생의 물리학자 메이는 <네이처>지에 기고한 <매우 복잡한 역학계의 단순한 수학 모형>이라는 논문에서 개체수의 변화를 예측하는 수학 방정식을 제한했다. 이것은 복잡한 미분 방정식이 아니라 계산기만 있으나 누구나 풀 수 있는 간단한 불연속 피드백 방정식이었다. 그가 이 방정식을 처음 연구하던 무렵에 "혼돈 모드로 접어든 후에는 개체수가 어떻게 변할지 짐작조차 할 수 없다"라고 솔질하게 털어놓았다. 그 후 미국 메릴랜드대학교를 방문했다가 짐 요크라는 수학자가 문제 해결의 결정적 실마리를 제공해 주었다. 그의 조언으로 혼돈 이론의 기초가 정립되었다.
초기 조건이 조금만 바뀌어도 완전히 다른 결과가 발생하나, 일정 한계에 도달하면 다시 규칙적 변화가 찾아오며, 아무리 단순한 계라하더라도 초기 조건에 따라 의외의 거동을 보일 수 있다는 사실이 메이가 얻은 결론이었다. 이 사실을 발견한 메이는 다음과 같이 말했다. "겉보기에 단순한 계가 역학적으로 단순하다는 보장은 어디에도 없다. 이 사실을 깨닫는 사람이 많을수록 정치와 경제 등 우리의 일상생활은 더 좋은 방향으로 개선될 것이다." 그 후 영국 상원의 중립 의원으로 정계에 진출한 메이는 최근 몇 년 동안 연구 결과를 정치에 접목시켜 왔다. 그의 목표는 '사회'라는 혼돈계에 혼돈 이론을 적용하여 안정한 상태를 도모하자는 것이었다.
메이가 생각하는 최대의 과학적 난제는 인간의 의식이나 무한한 우주와 같은 것이 아니다. 메이의 답은 이렇다. "그런 것은 제게 별로 대단한 문제가 아닙니다. 다양한 연구 과제의 하나일 뿐이다. 우연이기는 하지만 요즘 저는 은행 업무와 관련된 문제에 집중하고 있습니다." 그는 금융 시스템의 가장 큰 위험 요소로 '위기감'을 꼽았다. 금융가에 퍼지는 의기의식을 초기에 제어하지 못하면 걷잡을 수 없는 파국이 초래된다는 것이다. 그의 말을 좀 더 들어보자.
"지금 우리 사회가 직면하고 있는 문제의 대부분은 수학이나 과학으로 해결할 수 없습니다. 문제에 핵심에 도달하려면 행동 과학을 알아야 합니다. 행동 과학이야말로 인류가 의지할 수 있는 마지막 희망입니다." 국회의원의 숫자는 나라마다 일정한 인원이지만 이들이 주고받는 복잡한 상호작용을 수학 방정식으로 표현하기란 도저히 불가능하다. 그리고 메이는 다음과 같이 저자에게 말했다. "지금 인류가 가고 있는 길이 모든 생명체의 필연적 운명인가? 아니면 우리와 다른 길로 가고 있는 생명체가 존재할 것인가? 그 답은 영원히 알 수 없을 것입니다."
저자는 메이의 말을 되새기면서 다음과 같이 자문을 한다. "혼돈 이론을 이용하여 계의 과거와 미래를 알 수 있을까? 방정식을 풀지 않더라도 가만히 않아서 기다리면 미래는 알 수 있다. 그러나 과거를 추적하여 지금과 같은 생태계를 초래한 초기 상태를 알아내는 것은 완전히 다른 이야기이다. 우리가 정말 알 수 없는 것은 미래가 아니라 과거이다."