미래에서 온 남자 폰 노이만 (3)
컴퓨터공학자와 수학자이자 경제학자 폰 노이만
5장 컴퓨터의 탄생
ENIAC에서 애플까지, 세상을 바꾼 계산기
미래의 컴퓨터는 진공관이 1,000개밖에 없고 무게도 1.5톤이 채 안 될 것이다.
— 《Popular Mechanics》, 1949년 3월호
열렬한 컴퓨팅 기술 지지자가 되다
노이만이 계산기계에 관심을 갖게 된 것이 전쟁 기간 중 1943년에(당시 노이만은 해군에 근무하다가 6개월간 영국을 비밀리에 방문하였다) 영국에서 만났던 앨런 튜링의 영향이었을까?
아마도 두 사람은 서로 영향을 주고받았을 가능성이 높다. 노이만이 그때 영국에서 어떤 일을 겪었건, 미국으로 돌아온 그는 로스앨러모스에서 가장 열렬한 ‘컴퓨팅 기술 지지자’가 되어 있었다.
1944년 1월에 그는 과학연구개발국의 응용수학부 책임자인 워런 위버(Warren Weaver)에게 보낸 편지에서 “미국에서 제일 빠른 계산기계를 찾아달라”고 요청했다. 내파 장치에 필요한 계산량이 감당할 수 없을 정도로 많아졌기 때문이다.
위버는 하버드 대학교의 물리학자 하워드 에이킨(Howard Aiken)을 소개해주었다. 그는 전자식 계산기를 설계해서 IBM에서 출시되었는데, 이 계산기는 'Automatic Sequence Controlled Calculator'로 불리다가 나중에 ‘하버드 마크 I(Harvard Mark I)으로 개명되었다.
[하워드 에이컨과 하버드 마크 I 출처 구글 이미지]에이킨을 만난 후 로스앨러모스로 돌아온 노이만은 자신이 풀던 기밀 문제 중 하나를 골라서 용도를 지워버리고 에이킨에게 보냈다. 에이킨은 전혀 모르고 있었지만, 사실 그것은 로스앨러모스에서 설계한 폭탄의 충격파 시뮬레이션이었다.
전자식 컴퓨터를 최초로 학술적 연구에 사용했던 천문학자 마틴 슈바르츠실트(Martin Schwarzschild)는 이렇게 말했다. “전쟁이 끝난 후 현대식 계산기가 설치된 곳에 가면 충격파 문제와 씨름하는 사람이 항상 있었다. 그들에게 ‘누가 이런 일을 의뢰했습니까?’라고 물으면 예외 없이 ‘노이만’이라는 이름이 튀어나왔다. 현대식 컴퓨터로 가는 길목에서 노이만은 이런 식으로 곳곳에 발자국을 남기고 다닌 것이다.”
노이만은 1944년 여름 탄도학연구소에서 회의를 마치고 애버딘 역에서 집으로 가는 기차를 기다리던 중 헤르만 골드스타인(미시간대 수학과 교수로 전쟁에 참전해 ‘탄도학연구소’에서 일하던 중이었다)으로부터 ENIAC(Electronic Numerical Integrator and Computer, 전자식 수치적분 및 계산기)에 대한 이야기를 우연히 듣게 되었다.
당시 하버드 마크 I이나 콘라드 제우스 Z3(Konrad Zeus’s Z3) 같은 초기 계산기계는 톱니와 기어, 그리고 계전기 스위치를 이용하여 숫자를 표현한 반면, 무어스쿨의 ENIAC은 움직이는 부품이 하나도 없었다. 설계자들은 ENIAC이 진공관과 전기 회로만으로 기계식 컴퓨터보다 수천 배 이상 빠른 속도를 낼 수 있다고 장담했다.
그로부터 얼마 지나지 않은 8월 7일, 골드스타인은 한창 제작 중인 계산기계가 있는 무어스쿨로 노이만을 데려갔다. “그날 이후로 노이만의 삶은 완전히 달라졌습니다. ENIAC이 그의 삶을 송두리째 바꿔놓은 거지요.”
폭 9미터, 길이 17미터짜리 연구실의 벽을 따라가며 설치된 ENIAC은 1만 8,000개의 진공관과 거미줄 같은 전선, 그리고 수많은 스위치가 달린 2.4미터 높이의 계기판으로 이루어져 있었다.
[헤르만 골드스타인과 무어스쿨에 설치된 ENIAC 출처 본문]ENIAC의 탄생
ENIAC은 1930년대 경제 대공황 때문에 학자의 꿈을 접은 전직 물리학 교사 존 모클리(John W. Mauchly)의 작품이다. 1941년(당시 34세)에 그는 무어스쿨에서 전시에 과학자들의 재교육을 위해 개설된 전자공학 과정을 수강하다가 그곳에서 22세의 새파란 청년 프리스퍼 에커트(J. Presper Eckert)를 알게 되었다.
[모클리와 애커트 출처 구글 이미지]대포를 다루는 포병들에게 가장 중요한 ‘사표(firing table)’에는 다양한 발사 각도와 지형 조건, 대포와 포탄의 종류 등에 따른 포탄의 궤적과 사거리가 빼곡하게 적혀 있다. 수십, 수백 줄의 숫자열로 이루어진 사표에서 단 한 줄의 결과를 얻으려면 숙련된 직원이 탁상용 컴퓨터 앞에 앉아서 꼬박 이틀 동안 작업해야 한다.
그러나 1930년대에 매사추세츠 공과대학(MIT)의 버니바 부시가 발명한 미분분석기(differential analyzer)를 이용하면 동일한 계산을 단 20분 만에 끝낼 수 있었다. 웬만한 방을 가득 채울 정도로 덩치가 컸던 이 기계는 나사가 잔뜩 박힌 탁상용 축구 게임기를 연상시킬 정도로 용도를 짐작하기가 어려웠다고 한다.
[버니바 부시의 미분 분석기 출처 구글 이미지]모클리는 1941년 9월에 무어스쿨의 조교수로 임용된 후 분석기 주변을 훑어보면서 전자기기를 이용하여 작업 속도를 높이는 방법을 연구하다가 ‘고속진공관을 이용한 계산법’이라는 아이디어를 떠올리고 메모지에 기록해 놓았다.
그 후 1943년 봄에 골드스타인이 이 메모를 발견하고 모클리의 아이디어에 완전히 매료되어 탄도학연구소의 담당자를 찾아가 필사적으로 설득했다. “이거 진짜 물건이에요. 계산 속도가 엄청 빨라질 겁니다. 정말이라니까요!“
1944년 8월, 노이만이 무어스쿨을 처음 방문했을 때 ENIAC은 완공일을 1년 이상 앞두고 있었다. 그가 했던 첫 번째 일은 지원금이 계속 들어오도록 군 당국을 설득한 것이었다. ENIAC에게 주어진 첫 번째 임무는 사표 계산이 아닌 로스앨러모스의 수소폭탄 개발 프로젝트였던 것이다.
“텔러의 슈퍼(Super, 수소폭탄)를 점화시키려면 그 비싼 티타늄(titanium)이 얼마나 필요한가?” 로스앨러모스에서 필요했던 이 문제의 답을 구하려면 편미분방정식 3개를 풀어야 했고, 이 일을 원하는 시간 안에 처리할 수 있는 기계는 ENIAC뿐이었다.
하지만 ENIAC의 설계자들은 프로젝트 초기부터 기계에 단점이 많다는 것을 잘 알고 있었다. 150킬로와트(kW)에 달하는 소비전력의 절반 이상이 진공관을 달구거나 식히는 데 소비되었고, 각 부위의 계산 부하량을 고려하여 배치를 아무리 열심히 조절해도 이틀에 한 번꼴로 진공관이 파열되었다.
ENIAC 운영팀은 프로젝트를 진행하는 동안 나름대로 기계의 단점을 인식하고 해결책을 물색해 왔는데, 여기에 노이만이 합류하여 날개를 단 셈이 되었다. 이들은 후속 컴퓨터 개발계획서를 빠르게 작성하여 탄도학연구소에 제출했고, 8월 29일 지휘부 회의에서는 골드스타인과 노이만이 지켜보는 가운데 이 계획을 승인했다.
그리고 낭보를 전해 들은 무어스쿨의 연구팀은 ‘프로젝트 PY’라는 암호명을 붙이고 곧바로 열띤 토론에 들어갔다. 이들은 다음 해 3월까지 노이만이 토론 결과를 요약해 줄 것으로 기대했지만, 실제로 노이만은 기대를 훨씬 뛰어넘는 엄청난 기여를 하게 된다.
그는 공학자가 아니라 복잡한 문제를 가장 근본적인 질문으로 바꾸는 데 능통한 수학자였기에, 중구난방으로 제기되는 ENIAC 팀의 아이디어를 체계적으로 정리하는 쪽에 쓰기로 했다.
흥미로운 것은 노이만이 20세기 초에 수학에 닥쳐온 위기를 극복하면서 연마한 실력이 첨단 컴퓨터의 탄생에 결정적 기여를 했다는 점이다. 현대 컴퓨터의 지적 기원이 완전하고 결정 가능한 수학 체계를 세우려는 힐베르트의 시도와 맞물려 있는 것이다.
노이만은 현대식 컴퓨터의 개념을 구체화할 때 힐베르트의 시도를 무산시킨 괴델과 튜링의 논리 체계를 가이드라인으로 삼았는데, 이들 사이의 연결고리는 컴퓨터 역사상 가장 중요한 논문으로 꼽히는 노이만의 역작 「EDVAC*에 대한 첫 번째 보고서(First Draft of a Report on the EDVAC)」에 잘 나와 있다.
* EDVAC: Electronic Discrete Variable Automatic Computer
20세기 최고의 지적 쾌거
괴델이 계산법(computing) 분야에서 이룩한 연속 안타 중 첫 번째 홈런은 1930년에 수학의 기초를 주제로 쾨니히스베르크에서 3일 동안 열린 학회의 마지막 날 쟁쟁한 학자들이 보는 앞에서 터져 나왔다(그 자리에는 젊은 노이만도 있었다).
괴델은 “내용상으로는 참이지만 고전 수학의 형식으로는 증명 불가능한 명제가 존재합니다. ‘골드바흐의 추측’이나 ‘페르마의 마지막 정리’가 그런 종류에 속합니다.”라는 폭탄선언을 하였다. 다시 말해, 수학에는 ‘수학으로 증명할 수 없는 참인 명제’가 존재한다, 더 간단히 줄이면 ‘수학은 태생적으로 불완전하다’는 뜻이다.
그것은 인류가 20세기에 이룩한 최고의 ‘지적 쾌거’ 중 하나였다. 하지만 회의에 참석한 수학자들은 디너파티에서 불청객의 불쾌한 농담은 들은 사람처럼, 괴델의 폭탄선언을 애써 무시했다. 다행히도 좌중에는 괴델이 이룬 업적의 의미를 간파한 사람이 한 명 있었다. 힐베르트 프로그램의 선교사를 자처했던 노이만은 괴델의 옷소매를 잡고 조용한 곳으로 끌고 가서 질문을 퍼붓기 시작했다.
사람들은 괴델이라는 이름을 들으면 논리적 역설을 떠올리지만, 사실 그는 역설 외에도 많은 업적을 남겼다. 그가 이룩한 모든 증명은 산술적 언어인 "수학정리(mathematical theorem)"로 표현된다. 괴델은 논리적 서술에 숫자를 할당하고 엄밀한 규칙과 대수적 공리에 따라 조작하는 독창적인 체계를 개발했는데, 이것을 ‘괴델 기수법(Gödel numbering)’이라 한다.
괴델은 자신이 구축한 계에서 진행되는 모든 논리연산(logical operation)이 그에 해당하는 산술연산을 갖고 있음을 확인했다. 그러므로 연달아 이어지는 서술(삼단논법 등)의 괴델수 사이에는 특정한 대수적 관계가 성립한다. 각 서술들이 논리법칙에 따라 연결되어 있는 것과 같은 이치다.
괴델이 고안한 코딩 시스템(수학적 서술을 숫자로 바꾸는 시스템)을 이용하면 임의의 증명을 간단한 수학으로 검증할 수 있다. 우선 괴델의 ‘복구 규칙’에 따라 주어진 증명에 대응하는 괴델수를 분해한다. 이 과정을 거치면 증명의 기초가 되었던 ‘공리’에 대응하는 괴델수가 드러날 것이다.
다음에 할 일은 공리의 괴델수가 주어진 계(즉 『수학원리』의 공리)에서 허용된 수인지 확인하는 것이다. 이 과정은 반복해서 되풀이된다. 그래서 괴델은 ‘원시재귀함수(primitive recursive functions)’(본질적으로 ‘수학적 고리(loop)’에 해당함)의 조합을 정의하여, 모든 정리를 검증할 수 있는 일종의 증명 검증용 기계, 즉 알고리듬(algorithm)을 만들었다. 즉 ‘정리의 타당성을 묻는 질문’을 ‘숫자를 더하는 문제’로 바꾼 것이다.
괴델의 증명에 도전한 학자들
그 후로 여러 세대에 걸쳐 철학자와 신비론자들은 괴델의 정리의 아류를 양산해왔고. 내용도 뒤로 갈수록 거칠어졌다. 미국의 인지과학자 더글러스 호프스태터는 자기참조형 루프(loop of self-reference)에서 인간 의식의 본질을 발견했고, 심지어는 신의 존재를 증명했다는 사람도 나타났다. 특히 괴델이 세상을 떠난 후 '신의 존재에 대한 괴델의 미완성 증명'이 발견되면서 이런 류의 주장이 더욱 빈번하게 제기되었다.
괴델은 프로그램 가능한 컴퓨터가 등장하기 한참 전인 1930년부터 컴퓨터 프로그램을 작성했다. 그는 구문(syntax, 단어와 형태소 등이 어울려 문장을 이루는 방식)과 데이터의 차이를 일거에 날려버렸고, (컴퓨터의 명령어와 비슷한) 논리적 서술이 숫자로 표현되는 엄밀한 체계를 구축할 수 있다는 것도 보여주었다.
미국의 수학자 마틴 데이비스(Martin Davis)는 괴델의 논리와 컴퓨터의 유사성에 대해 다음과 같이 설명했다. “프로그래밍 언어를 잘 아는 사람이 ‘결정 불가능성(undecidability)’에 대한 괴델의 논문을 읽는다면, 번호가 매겨진 45개의 공식들이 마치 컴퓨터 프로그램처럼 보일 것이다."
그 후에 발표한 괴델의 ‘제2 불완전성 정리’의 결과는 먼저 발표한 ‘제1 불완전성 정리’보다 훨씬 충격적이었다. 노이만은 괴델이 “아리스토텔레스 이후 가장 위대한 논리학자”라며 수학의 기초를 다지는 연구에 더 이상 손을 대지 않기로 마음먹었다.
1938년에 나치독일이 오스트리아를 강제로 합병했을 때 괴델은 “유태인 거주 지역을 자주 방문했다”는 이유로 빈 대학교 교수 임용에 탈락했고, 이 소식을 전해 들은 노이만은 그를 프린스턴으로 데려오기 위해 백방으로 뛰어다녔다.
노이만의 노력은 결실을 거두었다. 얼마 후 프린스턴으로 이주한 괴델은 집에 있는 냉장고과 방열기(라디에이터)에서 유독가스가 나온다며 내다 버렸고, 처음 몇 년 동안은 겨울마다 날씨가 너무 춥다면서 바깥출입을 하지 않았다. 다만 노이만의 집에 와서 책을 읽거나 아인슈타인이 함께 산책하는 것이 유일한 낙이었다고 한다.
1950년대에 아인슈타인과 노이만이 죽고 난 후 괴델은 외부 접촉을 전혀 하지 않고 편집증으로 아내 아델이 주는 음식 외에는 손을 대지 않았는데, 아델이 병에 걸려 입원한 후 다른 사람들의 음식을 거부하다가 1979년 1월 14일에 30킬로그램의 야윈 몸으로 세상을 떠났다.
튜링 머신의 등장
1931년에 괴델은 “수학이 완전하거나 자체 모순이 없음을 증명하는 것은 불가능하다”는 것을 증명했다. 그로부터 5년 후, 앨런 튜링은 힐베르트가 제기한 세 가지 질문 중 마지막 질문, 즉 “수학은 결정 가능한가(decidable)?”라는 질문에 부정적인 답을 내놓았다.
튜링은 1936년에 발표한 그의 유명한 논문 「계산 가능한 수와 결정 문제의 응용에 관하여(on computable numbers with an application to the entscheidungsproblem)」에서 기호를 쓰고 지울 수 있는 무한히 긴 테이프와, 이 테이프에 기록된 기호를 읽는 상상의 기계를 제안했다[이것이 그 유명한 튜링머신(Turing Machine)이다].
이 기계의 헤드는 한 번에 한 칸씩 좌우로 움직이면서 기호를 읽어 들이고, 기호의 내용에 따라 인쇄, 삭제, 이동 등 미리 정해진 기능을 수행한다. 테이프는 작은 정사각형으로 나뉘어 기계가 사각형 구획을 읽을 때마다 하는 일은 튜링이 말했던 ‘m-configuration’에 의해 결정되며, 기계의 내부 상태도 사각형에 기록된 내용에 따라 달라질 수 있다. 여기서 튜링은 기계가 빈 테이프에 무한히 긴 이진수 01010101…을 써나가는 간단한 사례를 제시한다.
적절한 명령이 주어지면 그가 떠올린 상상 속의 기계는 덧셈이나 곱셈 등 기초 수학 연산을 수행할 수 있다. 그러나 튜링은 굳이 이것을 증명하지 않고, 그 대신 특정 기호를 검색 또는 교체하거나 지우는 등 다양한 보조 임무를 위한 일련의 명령서(instruction table)를 작성했다. 그리고 논문의 끝부분에서 이 명령서를 이용하여 임의의 튜링머신을 똑같이 흉내 낼 수 있는 ‘범용계산기계’를 제안했다.
단 하나의 작업만 수행할 수 있는 초간단 튜링머신은 ‘프로그램 제어 컴퓨터(program-controlled computer, ‘프로그램으로 제어되는’ 컴퓨터)’라 하는데, 최신형 세탁기가 대표적 사례이다. 세계 최초의 컴퓨터로 알려진 ENIAC도 프로그램 제어 컴퓨터였다.
그러나 튜링의 ‘범용계산기계’는 이들과 사뭇 달라서 다른 튜링머신의 명령서를 이 기계에 입력하면 똑같은 명령을 수행할 수 있다. 튜링의 설명은 기계가 알아들을 수 있도록 명령서를 변환하는 것으로 시작된다.
이 명령은 테이프에 기록된 일련의 문자열이다. 튜링은 이것을 머신의 ‘표준서술(standard description)’이라 불렀는데, 요즘은 ‘프로그램(program)’이라는 용어로 불리고 있다. 프로그램은 내장되어 있지 않고 컴퓨터의 메모리에 저장된다.
튜링이 정의한 서브루틴 라이브러리(subroutine library, 다양한 서브루틴이 저장되어 있는 곳)와 명령서를 재료 삼아 공들여 만든 범용계산기계는 구조가 꽤 복잡하지만 크기는 유한하다.
튜링은 그 유명한 논문에서 단 4페이지만을 할애하여 이 놀라운 기계의 작동 원리를 완벽하게 설명했다. 적절한 명령서가 주어지면 범용계산기계는 무한히 다양한 직업을 수행할 수 있다.
튜링의 '범용계산기계'는 학계로부터 대단한 호응을 받았고, 튜링도 실제로 컴퓨터를 설계한 적이 있으며(1945년에 영국 물리학연구소(National Physical Laboratory)에서 사용할 컴퓨터 ACE 설계에 참여), 인공지능(AI) 분야에도 많은 기여를 했기 때문에, 많은 사람들이 튜링을 ‘컴퓨터의 최초 발명자’로 알고 있다.
[튜링이 개발에 참여했던 1950년 ACE 출처 구글 이미지]사실 튜링의 논문에 등장하는 모든 논리적 도구는 오직 ‘결정 문제 해결’이라는 한 가지 목적으로 조립된 것이었다. 튜링은 이렇게 조립된 기계를 이용하여 “1차논리(술어 해석)에서 파생된 서술의 증명 가능성을 판단하는 일반적이고 체계적인 과정은 존재하지 않는다”는 것을 증명함으로써, 힐베르트의 마지막 꿈을 좌초시켰다.
튜링은 논문 마지막 부분에서, 자신이 고안한 기계(튜링머신)가 사람(컴퓨터)이 수행하는 모든 알고리듬을 똑같이 수행할 수 있다고 주장했다. 물론 사람도 튜링머신에서 이루어지는 계산을 모두 수행할 수 있지만(도중에 지루해서 죽지만 않는다면), 머신이 할 수 없는 일은 사람도 할 수 없다.
튜링의 논문이 발표되기 12개월 전에 세상을 떠들썩하게 만들었던 슈뢰딩거의 고양이처럼, 튜링머신도 머릿속에서만 진행되는 일종의 사고실험이었다. 미국의 역사학자 토머스 헤이그는 말한다. “슈뢰딩거의 의도가 ‘고양이 안락사 장치 발명’이 아니었던 것처럼, 튜링의 목적도 새로운 계산기계를 만드는 것이 아니었다.”
당시 튜링이 컴퓨터 분야에 실질적으로 기여한 부분은, 파인홀의 연로한 학자들에게 ‘기계를 이용한 계산’에 대해 긍정적인 마인드를 심어줬다는 점이다. 노이만은 튜링의 논리 덕분에 ‘메모리에 저장된 명령을 이용하면 구조가 이미 결정된 단일 기계로 명령서에 기록 가능한 모든 명령을 수행할 수 있다’는 사실을 깨달았다.
노이만은 1945년 6월 30일에 EDVAC 보고서를 완성함으로써, 괴델과 튜링의 추상적인 생각을 ‘프로그램 저장형 계산기(stored-program computer)’의 표준 청사진으로 바꿔놓았다.
인공지능의 기본 개념을 수립하다
노이만이 제출한 「EDVAC에 대한 첫 번째 보고서」는 참으로 유별난 보고서였다. 이 글에서 ‘전자 부품’이라는 단어는 “전자 부품에 대해 굳이 설명하지 않는 이유”를 제시할 때만 등장한다. 보고서의 목적은 세부적인 공학에 얽매이지 않고 컴퓨터 시스템 전체를 포괄적으로 서술하는 것이었다.
“본 보고서에서는 자잘한 세부사항을 피하기 위해, 원리적으로 진공관과 동일한 기능을 수행하는 가상의 부품에 기초하여 논리를 진행해나갈 것이다.” 그가 말하는 ‘가상의 부품’이란, 복잡한 생리학적 요소를 제거하여 가장 이상적으로 단순화시킨 뉴런(neuron, 신경단위)을 의미한다.
노이만이 EDVAC 보고서에 언급한 이상적 뉴런은 신경생리학자 워런 매컬러(Warren McCulloch)와 수학자 월터 피츠(Walter Pitts)가 1943년에 발표한 논문에서 차용한 개념이다. 두 사람은 뉴런을 몇 개의 입력 신호로 단순화 시킨 후, 신호의 합이 임계값을 초과하면 뉴런으로부터 신호가 방출된다고 가정했다.
노이만은 최초의 프로그램 저장형 계산기의 원리를 설명할 때 매컬러와 피츠가 도입했던 용어와 표기법을 그대로 사용했고, 노이만이 EDVAC 보고서에서 인용한 문헌은 매컬러와 피츠의 논문 단 하나뿐이다.
[맥컬러와 피츠, 뉴론 구조 출처 구글 이미지]노이만이 서술한 조립법에는 총 5개의 ‘기관organ(부품)’이 등장하는데, 처음 3개는 덧셈이나 곱셈 같은 수학 연산을 수행하는 ‘중앙산술장치(central arithmetic unit)’와 명령이 올바른 순서로 실행되도록 제어하는 ‘중앙제어장치(central control unit)’, 그리고 계산기의 코드와 숫자를 저장하는 ‘메모리(memory)’였다. 나머지 네 번째와 다섯 번째는 계산기의 내부와 외부로 데이터를 전송하는 입력 및 출력 장치이다.
지금도 컴퓨터 설계자들은 컴퓨터의 전체적인 구성을 ‘폰 노이만 구조(von Neumann architecture)’라 부르고 있으며, 요즘 사용되는 대부분의 컴퓨터(스마트폰, 노트북, 데스크톱 등)는 이 원칙에 따라 제작된다.
[폰 노이만 구조 출처 나무위키]노이만은 EDVAC 보고서의 상당 부분을 ‘지연선(delay line)’을 설명하는 데 할애했다. 지연선은 1944년에 프리스퍼 에커트가 발명한 회로소자로서, 이것을 적용하면 저렴한 가격으로 저장 용량을 크게 늘릴 수 있다. 그 후 에커트는 ‘수은 지연선’이 데이터를 저장하고 검색하는 데 사용될 수 있음을 깨달았다.
ENIAC에 설치된 1만 8,000개의 변덕스러운 진공관 중 1만 1,000개는 데이터 저장용이었다. 반면에 EDVAC을 모델로 한 1세대 컴퓨터는 수은 튜브에서 음향 신호를 순환시키는 식으로 데이터를 저장했기 때문에, 진공관의 수가 10분의 1로 줄어들었다. 그러나 지연선은 전성기를 제대로 누리지 못하고 물러나게 된다.
[EDVAC과 폰 노이만 출처 구글 이미지]이후 형광면에 하전입자로 점을 새겨서 데이터를 저장하는 음극선관(cathode ray tube)이 새로 등장했고, 세라믹 고리의 자화상태(magnetization)를 뒤집어서 0 또는 1을 저장하는 자기코어 기억장치(magnetic-core memory)가 연이어 발명되었기 때문이다. 게다가 이 모든 것들은 저장 용량이 수은튜브의 수백만 배에 달하는 소형 트랜지스터와 이들로 구성된 반도체 메모리칩이 등장하면서 역사의 뒤안길로 사라졌다.
EDVAC 보고서는 완성되지 않았다. 1945년 여름에 노이만에게 더욱 시급한 임무가 떨어졌기 때문이다. 그러나 미완성 상태의 보고서만으로도 뛸 듯이 기뻤던 골드스타인은 부족한 부분을 대충 채워 넣어서 보고서를 마무리한 후, 노이만과 모클리, 그리고 에커트에게도 알리지 않은 채 미국을 비롯한 여러 나라에서 컴퓨터를 설계 중인 과학자와 공학자들에게 배포했다.
노이만의 보고서가 모든 사람에게 환영받은 것은 아니었다. 골드스타인은 보고서를 마무리하면서 표지에 노이만의 이름만 적어놓았는데, 이것이 불씨의 화근이었다. 컴퓨터 설계도로 특허 출원을 마음에 두고 있었던 에커트와 모클리는 자신의 이름이 누락되었다며 크게 분노했고, ENIAC을 만든 사람들은 노이만이 전임자가 했던 일을 그대로 따라 하면서 자신의 역할을 부풀렸다고 주장했다.
모클리와 에커트는 노이만이 수백만 달러를 훔쳤다며 맹렬히 비난했고. 노이만이 그들(모클리와 에커트)의 가장 큰 경쟁사로부터 수천 달러를 받고 자문 계약을 체결했다는 소식을 들었을 때에는 거의 이성을 잃을 정도로 격분했다. “노이만은 우리가 개발한 모든 아이디어를 IBM에 알뜰히 팔아넘겼습니다. 그것도 앞문이 아닌 뒷문으로 말이죠.” * IBM은 여러 해 동안 매년 한 달씩 자문을 받는 대가로 노이만에게 거의 1년 치 연봉을 지불했지만, 노이만이 IBM과 일하기 시작한 것은 1951년부터였다.
소송전에 휘말린 EDVAC
1946년에 에커트와 모클리가 대노했다는 소식을 접했을 때, 노이만은 “EDVAC의 일부는 완전히 나 혼자 만든 작품이며, 나머지 부분에 대해서도 공동 소유권이 있다”면서 불쾌한 속내를 드러냈다. “내가 무어스쿨에서 자문해줬던 사람들이 장사꾼 집단이라는 걸 진작 알았다면, 처음부터 그곳에 발을 들이지도 않았을 겁니다.”
이후 고등연구소의 컴퓨터에 대한 특허권은 1947년에 미국 정부의 소유로 넘어갔고, 고등연구소 컴퓨터 설계팀은 자세한 보고서를 작성하여 전 세계 175개 연구소에 보내는 등 컴퓨터 시대를 앞당기는 데 커다란 역할을 했다.
ENIAC과 EDVAC에 대한 지적재산권 및 특허권 관련 소송은 향후 수십 년 동안 계속되었다. 노이만이 살아 있었다면 1973년 10월 19일에 내려진 최종 판결에 매우 흡족했을 것이다. 그때 담당 판사는 디지털 전자 컴퓨터를 ‘만인의 소유’로 선언하면서 기나긴 논쟁에 마침표를 찍었다.
미국 법상 '발명가는 발명품의 정상 작동 여부가 확인된 날부터 1년 안에 특허를 신청'해야 한다. ENIAC은 1945년 12월에 로스앨러모스에서 요청한 계산에 착수했고 1946년 2월에 <뉴욕타임스>의 1면에 실리면서 일반 대중에게 공개되었지만, 특허는 그 존재가 공개되고 16개월 후인 1947년 6월에 접수되었다.
담당 판사는 1945년 중반부터 배포되기 시작한 노이만의 EDVAC 보고서가 디지털 전자 컴퓨터의 핵심 아이디어를 공동 발명자의 허락 없이 일찍 공개했으며, 디지털 컴퓨터는 에커트와 모클리의 발명품이 존 빈센트 아타나소프(John vincent Atanasoff)의 아이디어에서 비롯된 것이라고 판결했다. 연방법원의 최장기 재판 기록을 세운 이 기나긴 소송전에서 결국 법정은 20세기 최고의 발명품에 “어느 누구도 독점할 수 없다”는 판결을 내렸다.
그로부터 약 10년 후, 미국에서는 “기업 비밀을 지양하고, 가능한 한 많은 정보를 공유하여 공동의 이익을 추구하자”는 오픈소스운동(open source movement)이 일어나 수많은 발명가와 혁신가들이 꿈을 펼칠 수 있는 토대가 마련되었고, 이는 노이만 덕분이라고 해도 과언이 아닐 것이다.
노이만은 무어스쿨을 정기적으로 방문해오다가 특허권 분쟁으로 연구팀이 사분오열된 1946년부터 발길을 끊었다. EDVAC은 노이만의 보고서 덕분에 가장 널리 알려진 '이론적 기계'가 되었지만, 정작 EDVAC이라는 이름이 붙은 실물 컴퓨터는 1949년에 배에 실려 탄도학연구소로 배달된 후 문제를 해결하기 위해 진공관이 계속 추가되어 노이만이 작성한 보고서의 의도로부터 멀어지면서 점차 이상한 괴물로 변해갔다.
프린스턴 고등연구소 프로젝트를 시작하다
노이만은 새로운 컴퓨터 프로젝트를 유치하려는 명문 대학들로부터 수많은 러브콜을 받았다. 특히 노버트 위너는 노이만을 MIT로 데려오기 위해 다음과 같은 편지를 보냈다. "당신의 계획이 프린스티튜트(Princetitute, 노이만이 있는 프린스턴과 위너가 있는 MIT의 합성어)에 잘 어울 어울릴 것 같지 않나요? 컴퓨터를 만들려면 크고 좋은 실험실이 필요할 겁니다. 물론 이론만 캐는 상아탑에는 그런 실험실이 없겠지요?”
열띤 스카우트 열풍에 위기감을 느낀 프린스턴 고등연구소 소장 프랭크 에이들럿(Frank Aydelotte)은 이사회를 찾아가 연구비 10만 달러를 당장 노이만에게 지급하라고 강력하게 주장했고, 당시 노이만에게 필요한 연구비는 30만 달러였는데, 나머지 20만 달러는 군부로부터 지원받았다. 노이만이 육, 해, 공군의 장성들을 찾아가 끈질기게 설득했기 때문이다.
노이만은 육군과 해군 장성들에게 컴퓨터의 단기적이고 실용적인 용도를 강조한 반면, 동료 과학자와 고등연구소의 임원들 앞에서는 장차 컴퓨터를 통해 해결될 학술적 문제를 나열하면서 거창한 청사진을 보여주었다.
컴퓨터가 수학자와 물리학자 등 여러 분야의 학자들에게 새로운 지식의 장을 열어준다는 점에는 의심의 여지가 없습니다. 직경 5미터짜리 천체망원경이 등장하면서 관측 가능한 우주가 엄청나게 넓어진 것처럼, 컴퓨터는 과학이 탐구할 수 있는 영역을 과거와 비교가 안 될 정도로 넓혀줄 것입니다.
[프린스턴 고등연구소 컴퓨터 프로젝트 팀(1952년) 출처 본문]고등연구소 프로젝트는 서서히 탄력을 받기 시작했고, 노이만은 골드스타인과 아서 벅스를 첫 팀원으로 고용했다(골드스타인은 프로젝트 책임자로 임명되었다). 에커트는 프로젝트 참여를 거절하고 모클리와 함께 사업가로 변신했다. 노이만은 에커트를 대신할 수석엔지니어를 찾기 위해 사방을 물색하다가, 전시에 위너에게 스카우트된 후 MIT에서 줄곧 일해온 줄리안 비글로(Julian Bigelow)에게 시선이 꽂혔다.
노이만은 헤르만 골드스타인, 아델 골드스타인(두 사람은 부부이다)과 함께 ENIAC 개조 계획을 수립했다. 당시 아델은 26세의 젊은 나이였지만 수학 석사학위 과정을 마쳤고 ENIAC을 속속들이 알고 있었다. 그해 7월에 그녀는 프로그램에 사용할 51개의 명령어와 ENIAC이 명령을 해독하고 수행하는 데 필요한 배선 및 스위치 설정을 일목요연하게 정리하여 변환 계획서를 만들었다.
[줄리안 비글로, 헤르만 골드스타인, 오펜하이며, 폰 노이만 출처 구글 이미지]ENIAC의 운영자 중 한 사람이었던 진 바틱(Jean Bartik, 원래 이름은 베티 진 제닝스Betty Jean Jennings임)은 1947년 3월에 프로그램 전문가로 고용되었는데, 오직 이 업무 하나를 위해 사람이 고용된 것은 역사상 처음이었다. 그러나 로스앨러모스에는 핵무기와 관련된 기밀사항을 누설할 염려가 없으면서 ENIAC의 단점을 속속들이 알고 있는 인력이 필요했고, 거기에 딱 맞는 사람은 노이만의 아내 클라라였다.
몬테카를로와 컴퓨터 시뮬레이션의 탄생
전쟁이 끝난 후 처음 찾아온 크리스마스에 클라라는 남편이 근무하는 비밀 연구소를 방문했다. 드디어 노이만의 삶을 가리고 있던 비밀의 커튼이 걷히고, 끈끈한 동료애로 뭉친 로스앨러모스의 과학자들은 클라라를 열렬히 환영해주었다.
어느 날, 클라라가 노이만의 연구팀이 만든 프로그램에서 ‘버그bug(프로그램상의 사소한 오류. 논리적 오류는 버그가 아니라 재앙 또는 대형 참사에 속한다)’를 발견했다. 감탄한 노이만은 클라라를 한껏 치켜세웠고, 자신감을 얻은 그녀는 ENIAC과 함께 보내는 시간이 점점 많아지다가 1947년 여름에 로스앨러모스 연구단지의 자문위원이 되었다.
훗날 클라라는 이 시절을 회상하며 말했다. “그 시기에 제가 한 일은 대수방정식을 수치 형식(numerical form)으로 바꾼 후, 이것을 기계가 알아들을 수 있는 기계어로 변환하는 것이었습니다. 당시에는 잘 몰랐지만, 내가 바로 최초의 코더coder(프로그래머)였던 셈이죠.”
노이만과 울람은 전통적인 방법으로 풀 수 없는 방정식의 대략적인 해를 구하기 위해, 확률을 이용한 새로운 방법을 개발했다. 클라라가 하는 일은 ENIAC의 수치 처리 능력을 최대한으로 발휘하여 핵폭탄 안에서 사방으로 퍼져나가는 중성자의 궤적을 계산하는 것이었는데, 노이만과 울람의 아이디어를 테스트하기에 딱 좋은 문제였다. 노이만은 이것을 ‘몬테카를로’라고 이름 붙였다(노이만과 클라라가 처음 만난 곳은 몬테카를로의 한 카지노였다).
울람은 현실 세계에서 직면하는 많은 문제들도 본질적으로 솔리테어 게임에서 이긴 횟수를 세는 것과 비슷하다는 것을 깨달았다. “폭탄 1개를 직접 만들어서 터뜨리는 것보다, 폭탄이 터지는 과정을 컴퓨터로 수천 번 모방하는 게(즉 시뮬레이션하는 게) 훨씬 싸게 먹히지 않는가!”
몬테카를로가 등장하면서 연쇄반응을 컴퓨터로 흉내 내는 것이 처음으로 가능해졌다. 핵폭탄 속에서 중성자가 취할 수 있는 거동은 너무 많아서 계산이 거의 불가능하지만, 이 과정을 컴퓨터로 수백, 수천 번 반복하면 핵반응의 전체적인 양상을 거의 정확하게 알 수 있다. 즉 내부 구성이 어떤 배열일 때 폭탄의 효율이 극대화되는지 오직 컴퓨터만으로 알 수 있다는 뜻이다. 로스앨러모스에서 원하던 분석법이 바로 이것이었다.
그 후 1947년 3월에 노이만은 11페이지짜리 「전자 컴퓨터를 이용한 몬테카를로 폭탄 시뮬레이션 계획서」를 작성하여 로스앨러모스의 이론분과 책임자인 로버트 리히트미어(Robert Richtmyer)에게 보냈다. 요즘 컴퓨터는 하루에도 수천 번씩 몬테카를로 시뮬레이션을 수행하면서 주식투자 전략을 짜고, 신소재의 특성을 실험하고, 대학원생들의 적분을 도와주고 있다.
노이만은 난수(random number, 정해진 범위 안에서 아무런 규칙 없이 생성된 수)를 이용하여 폭탄 안에서 움직이는 중성자 100개의 궤적을 그려서 모든 가능한 상호작용의 결과를 수집한다는 계획을 세웠다. 여기에는 중성자 1개의 몬테카를로 시뮬레이션에 필요한 81단계의 계산 과정도 포함되어 있었다.
그 후로 노이만과 골드스타인은 몇 개월에 걸쳐 이 계획을 프로그램으로 구현하는 보고서와 몬테카를로 프로그램의 진행 순서를 한눈에 보여주는 순서도(flowchart 또는 흐름도)를 작성했다(순서도는 요즘 컴퓨터 알고리듬에도 여전히 사용되고 있다).
[몬테카를로 시뮬레이션 출처 구글 이미지]이후 아델 골드스타인과 리히트미어는 얼마 지나지 않아 ‘하마 프로젝트(Project Hippo)’라는 또 다른 핵폭탄 개발 계획에 차출되어 프린스턴을 떠났고, 그 후로 클라라가 책임자로 임명되어 노이만이 그린 순서도를 컴퓨터 언어로 변환하는 작업에 착수했다.
첫 번째 몬테카를로 시뮬레이션은 4월 28일에 시작해서 5월 10일에 종료되었다. 울람은 곧바로 노이만에게 편지를 썼다. “방금 닉하고 통화했는데, ENIAC이 정말로 기적 같은 일을 해냈어요. 무려 2만 5,000장의 카드가 생성되었답니다!” 그리고 최근 들어 역사학자들이 이때 실행된 두 번째 몬테카를로 시뮬레이션 프로그램을 발견했는데, 클라라가 직접 작성한 코드는 28페이지나 되고, 계산은 11월 7일에 완료되었다.
클라라는 세 번째 몬테카를로 시뮬레이션을 앞두고 울람에게 편지를 썼다. “상황이 반전된 것 같아요. 저를 위해 기도해주시고, 행운을 빌어주세요,” 1949년 6월 24일에 마지막 시뮬레이션을 성공적으로 끝낸 후, 거의 탈진 상태에 이른 클라라는 같은 달 28일에 비밀문서를 들고 프린스턴의 집으로 돌아왔다.
1950년에 그녀는 마지막으로 애버딘을 방문하여 “핵분열 폭탄으로 핵융합 폭탄을 점화시킬 수 있는지” 확인하는 텔러의 슈퍼폭탄 테스트 작업에 참여했다. 그러나 시뮬레이션 결과 텔러의 설계로는 충분한 열이 발생하지 않는 것으로 판명되었고, 결국 그 설계도는 서랍 속으로 들어갔다.
“이제 우리는 결코 예전으로 돌아갈 수 없을 것이다”
클라라는 1950년에 수소폭탄과 관련된 계산을 마친 후 컴퓨터의 최전선에서 은퇴했고, 얼마 후 로스앨러모스에는 메트로폴리스의 지휘하에 제작된 ‘MANIAC I'이 가동되기 시작했다.
클라라는 은퇴 후에도 도와달라는 요청이 사방에서 쇄도했는데, 불안감과 우울증에 시달리던 그녀는 남편이 설계한 고등연구소 컴퓨터가 안정적으로 가동되기 시작한 1952년부터 더 이상 코딩 작업을 하지 않았다.
지금도 일각에서는 개조된 ENIAC이 진정한 프로그램 저장형 컴퓨터였는지 여부를 놓고 격렬한 논쟁을 벌이는 중이다. 그러나 클라라의 몬테카를로 코드가 “복잡하면서도 유용한” 최초의 현대식 프로그램이라는 데에는 이견의 여지가 없다.
[클라라와 당시 기상 예측 순서도 출처 구글 이미지]1951년 개발 일정에 차질을 빚었던 고등연구소 컴퓨터가 드디어 첫 가동에 들어갔다. 완벽주의자였던 수석엔지니어 줄리안 비글로는 골드스타인과 궁합이 맞지 않았는지 거의 모든 문제에서 의견 충돌을 겪었고, 꾸준히 진도를 나가는 사람은 노이만뿐이었다.
고등연구소 컴퓨터를 거대한 엔진에 비유했던 작가 조지 다이슨(George Dyson)의 이야기를 들어보자. “그 기계는 높이 1.8미터, 폭 60센티미터, 길이 2.4미터짜리 V-40(40기통) 터보차저 엔진 같았다. 컴퓨터 본체는 알루미늄 프레임으로 덮여 있고, 크랭크 케이스 안에는 양쪽으로 20개의 실린더가 달려 있으며, 실린더 안에는 피스톤 대신 1,024비트의 메모리 튜브가 장착되어 있다.”
[1952년 프린스턴 고등연구소 컴퓨터 출처 본문]이후 많은 후속 컴퓨터들이 뒤를 이었지만 가장 주목을 끈 것은 1953년에 대중에게 공개된 IBM의 701과 모클리와 애커트가 만든 최초의 상업용 컴퓨터 UNIVAC (Universal Automatic Computer)*였다. 과학 연구 목적 IBM 701은 주 매출원이 펀치카드 제표기(punch card tabulator)였던 IBM에 커다란 전환점이 되었다.
[최초의 상업용 컴퓨터 UNIVAC 출처 구글 이미지] 노이만과 수많은 컴퓨터에 자극받은 IBM은 기존의 '기계식 지향형' 방침을 대대적으로 수정하여 EDVAC에 기초한 프로그램 저장형 디지털 기기를 생산했고, 1960년대 전 세계 전자 컴퓨터의 70퍼센트를 생산하는 초대형 기업으로 성장했다. 텔러는 IBM이 벌어들인 돈의 절반이 노이만에게 진 빚이나 다름없다고 했다.
노이만은 자신이 발명한 기계의 잠재적 가치를 알고 있었을까? 그렇다. 누구보다 정확하게 알고 있었다. 그는 1955년에 컴퓨터의 전체적인 능력이 1945년 이후로 매년 거의 두 배씩 향상되어왔음을 지적했고, 그 후에도 이런 추세가 계속될 것이라고 했다.
노이만의 예측은 집적회로(integrated circuit)에 들어가는 회로소자의 개수가 매년 두 배씩 증가한다는 ‘무어의 법칙(Moore’s law)’을 연상시킨다. 이것은 인텔(Intel)의 공동 창업주였던 고든 무어(Gordon Moore)가 1965년에 했던 말인데, 연도로 보나 경험치로 보나 노이만이 원조였음은 두말할 필요도 없다.
현대 컴퓨터의 기초인 논리학과 수학을 누구보다 깊이 이해했던 사람이 그것을 구현하는 데 필요한 기술과 영향력, 그리고 운영 능력을 최고 수준으로 발휘하면서 더욱 강력한 기계가 만들어지도록 밀어붙이는 추진력까지 갖췄다니, 인류의 역사에 이런 인물이 또 나올 수 있을지 의심스럽다.
노이만이 세상을 떠난 후, 비글로는 다음과 같은 글로 그를 추모했다. “노이만은 우리 마음속에 엉켜 있는 거미줄을 말끔하게 제거했다. 그가 아니고서는 도저히 할 수 없는 일이다. 과거와는 비교할 수 없을 정도로 막강해진 계산 능력이 과학을 비롯한 모든 분야에 침투하여 세상을 완전히 바꿔놓았다. 이제 우리는 결코 예전으로 돌아갈 수 없을 것이다.”
6장 게임이론이라는 혁명
인간과 사회를 보는 시선을 뒤짚다
오마르 리틀: “나한테는 총이 있고 너한테는 가방이 있지, 어차피 이건 다 게임이야, 그렇지 않나?” - <더 와이어(The Wire)>, 2003
노이만은 태생적으로 합리적인 사람이었다. 그와 가까웠던 지인들 사이에서는 “지나칠 정도로 합리적인 사람”이라는 평가가 지배적이다. 그의 합리적 사고방식을 잘 보여주는 사례가 있다. 딸 마리나가 두 살 아기였을 때, 이혼을 앞둔 노이만과 아내 마리에트는 딸의 양육 지침에 관하여 다음 사항에 동의했다.
일단 마리나가 열두 살이 될 때까지는 어머니와 함께 살면서 휴가는 아버지와 함께 보내고, 그 후 이성(理性)의 시대인 사춘기에 접어들면 아버지와 함께 살면서 그의 천재성에서 파생되는 모든 혜택을 누린다.
훗날 마리나는 이렇게 회고했다. “매우 사려 깊은 선의의 합의였습니다. 하지만 제 부모님은 사람의 한평생 중 이성에서 제일 거리가 먼 시기가 바로 사춘기라는 걸 몰랐어요. 그 정도로 경험이 없었던 거지요.”
게임이론은 인류 역사상 가장 “무질서하고 비이성적이었던” 시기에 복잡다단한 현실 세계의 문제를 깔끔한 수학 논리로 해결하고 싶은 노이만의 열정에서 탄생했다. 게임이론의 해답은 가끔 냉정하고 파격적이면서 사람의 복잡한 감정을 전혀 고려하지 않은 것처럼 보이지만, 이 모든 단점에도 불구하고 매우 효과적이다.
마리나(Marina von Neumann Whitman, 1935~)는 훗날 뛰어난 경제학자가 되어 대통령 경제자문위원회에서 최초의 여성 위원으로 활약했으니, 노이만 부부의 양육 지침도 게임이론 못지않게 효과적이었던 셈이다.
게임이론이란 무엇인가?
노이만은 제2차 세계대전 중 폴란드 태생의 영국인 수학자 제이콥 브로노우스키(Jacob Bronowski)와 함께 런던에서 택시를 타고 가다가 이 용어를 언급한 적이 있다. 브로노우스키는 그의 저서 『인간 등정의 발자취(The Ascent of Man)』에서 노이만과 나눴던 대화를 다음과 같이 소개했다.
체스광이었던 나는 그에게 물었다. “그 게임이론이라는 게, 일종의 체스 같은 겁니까?” 그러자 노이만이 손사래를 치며 말했다. “아뇨, 전혀 아니에요. 일단 체스는 게임이 아닙니다. 그건 정확하게 정의된 계산의 한 형태일 뿐이죠. 플레이어가 둔하면 해답을 못 찾을 수도 있지만, 이론상으로는 어떤 위치에서건 올바른 답이 존재하니까요. 하지만 진짜 게임은 그렇지 않습니다. 실제 세상은 그런 식으로 돌아가지 않아요. 우리가 사는 현실 세계는 과장된 허풍과 소소한 기만전술, 그리고 ‘다른 사람은 내 행동을 어떻게 생각할까?’라는 자문自問 등으로 이루어져 있습니다. 이런 것이 바로 제가 생각하는 게임이론의 요소들이지요.”
현실 세계에서 일어나는 갈등을 이런 식으로 분석한 사람은 노이만이 처음이 아니었다. 현대 게임이론 교과서에는 노이만의 말대로 체스가 별다른 역할을 하지 않지만, 독일과 오스트리아-헝가리의 수학자들이 갈등의 심리학을 이론화하는 데 가장 큰 영감을 준 것은 ‘왕들의 게임’이었다. 노이만은 그런 수학자들 중 한 사람이었을 뿐이었다.
체스 선수들 중 가장 유명한 사람은 아마도 1894년부터 27년 동안 세계 챔피언 타이틀을 보유했던 프러시아의 전설, 에마누엘 라스커(Emanuel Lasker)일 것이다. 하지만 그가 가장 좋아했던 것은 체스가 아니라 수학이었다. 라스커는 베를린과 하이델베르크, 그리고 괴팅겐에서 수학을 공부했고. 힐베르트는 그를 각별히 챙겨주었다.
하지만 유태인이었던 그는 독일에서 안정적인 일자리를 구하기가 어려웠기에, 졸업 후 한동안 맨체스터와 뉴올리언스에서 임시 강사직을 전전하다가 결국 수학을 우선순위에서 살짝 제쳐놓고 체스로 생계를 꾸리기 시작했다.
[체스를 두는 에마누엘 라스커(맨 왼쪽 아래) 출처 구글 이미지]라스커는 『체스 입문서』에서 “경쟁의 원리를 설명하는 과학은 첫 단계에서 약간의 성공을 거두는 즉시 아무도 말릴 수 없을 정도로 빠르게 발전할 것”이라고 예측하면서, “끔찍한 딜레탕티즘(diletantism)으로부터 대중을 구하고 정치를 완전히 개혁하여 인류에게 진보와 평화를 가져다줄 수 있는 유능한 교사를 양성해야 한다. 그들의 궁극적 역할은 “합의에 도달할 수 있는 합리적인 방법을 제공하여 전쟁 자체를 무용지물로 만드는 것”이라고 기술했다.
그가 추구한 ‘경쟁의 과학’은 그 다음 해 말에 첫발을 내딛게 된다. 1926년 12월 7일, 노이만은 괴팅겐의 수학자들 앞에서 최대최소 정리(minimax theorem)를 증명했다. 이 내용을 담아 1928년에 출판한 논문 「응접실 게임의 이론적 분석(On the Theory of Parlour Games)」에서, 노이만은 게임이론의 학문적 기반을 구축하고 사람들 사이의 협동과 갈등 관계를 수학적으로 분석했다.
“모든 인간은 완벽하게 합리적으로 사고한다”
최대최소 정리를 증명한 노이만의 논문은 게임의 전략을 가장 근본적인 단계에서 파헤치는 것으로 시작된다. 카드 게임 중 하나인 러미(rummy)[손에 든 카드를 조합하여 특정 배열(족보)을 만들어서 일찍 내려놓은 사람이 이기는 게임. 기본 규칙은 훌라(hula)와 비슷하다]를 예로 들어보자.
이런 게임에서 최선의 결과를 얻으려면 어떤 전략을 구사해야 할까? 노이만의 설명은 다음과 같다. “모든 플레이어는 자신뿐만 아니라 다른 플레이어에게도 영향을 미친다. 게임 중에는 자신이 들고 있는 카드에만 온 정신을 쏟는다 해도, 그 결과는 결코 독립적일 수 없다(세상만사가 다 그렇다!). 그러므로 최선의 결과를 얻으려면 족보에 연연하지 말고 플레이어들끼리 주고받는 영향을 분석해야 한다.”
노이만은 설명이 길어지는 것을 피하기 위해, 플레이어가 단 두 명뿐인 제로섬(zero-sum) 게임을 예로 들었다. 요즘 제로섬 게임이 일상적인 용어로 자리 잡은 것만 봐도, 노이만의 게임이론이 후대에 얼마나 큰 영향을 미쳤는지 짐작할 수 있을 것이다.
게임의 규칙을 조금 바꿔서, 두 사람이 상대방의 전략을 미리 알 수 있다고 가정해 보자. 노이만의 게임이론에는 “모든 참가자는 완벽하게 합리적인 사고를 한다”는 가정이 깔려 있다. 노이만은 그의 논문에서 2인 제로섬 게임과 유사한 모든 게임에 ‘해답’이 존재한다는 것을 증명했다. 오직 자신만을 위해 합리적 선택만을 하는 적을 대상으로 최선의 이득을 거두는 전략을 찾은 것이다.
게임이론의 선구자 중 한 사람인 프랑스의 수학자 에밀 보렐(Émil Borel)은 1920년대 초에 게임이론을 주제로 여러 편의 논문을 발표했는데, 그가 정의한 ‘최선의 전략(완벽하게 합리적인 게이머가 상대방을 이기거나, 지더라도 손실을 최소화하는 전략)’은 노이만과 크게 다르지 않았다. 하지만 그는 2인 제로섬 게임에 일반해(general solution)가 존재하지 않는다고 결론지었다.
보렐의 논문은 프랑스 수학자인 모리스 프레셰(Maurice Fréchet)가 미국의 수학자 레너드 새비지(Leonard Savage)의 도움을 받아 영어 번역본을 출간한 후부터 널리 알려지기 시작했는데, 이 번역본에 첨부된 해설서에서 프레셰는 ‘보렐이 게임이론의 창시자’라고 주장했다.
노이만은 프레셰의 글을 읽고 몹시 분노했다. 조지 버코프와 쿠르트 괴델에게 뒤통수를 세게 얻어맞았던 그였기에, 게임이론의 창시자라는 타이틀만은 포기할 생각이 없었다. 사실 노이만은 게임이론의 해를 유도할 때 보렐이 논문을 썼다는 사실조차 모르고 있었다.
지금도 프랑스를 제외한 대부분의 나라에서는 노이만의 1928년 논문을 게임이론의 초석으로 인정하고 있다. 이 논문에서 노이만이 제시한 증명의 핵심은 ‘혼합전략(mixed strategies)’인데, 나중에 그가 이 개념을 설명하기 위해 도입한 2인 제로섬 게임이 바로 ‘동전 짝맞추기(Matching Pennies)’ 게임이다.
노이만의 유일한 박사학위 과정 제자였던 이즈라엘 핼퍼린(Israel Halperin)은 노이만을 ‘마법사’라고 불렀다. “그는 대수학이건 기하학이건 또는 그 무엇이건 간에, 한번 손에 들어오면 무조건 논리적인 결론을 이끌어내야 직성이 풀리는 사람이었다.” 헝가리의 수학자 로자 피터(Rózsa Péter)의 평가는 훨씬 파격적이다. “대부분의 수학자들은 증명이 가능한 것을 증명하는데, 노이만은 자신이 원하는 것을 증명했다.”
최대최소 정리에 대한 노이만의 증명이 바로 이런 경우에 속한다. 그는 “모든 2인 제로섬 게임에서 단순전략 또는 혼합전략에 해당하는 해가 항상 존재한다”는 것을 증명하기 위해, 복잡하기 그지없는 대수학적 논리를 무려 6페이지에 걸쳐 불도저처럼 밀고 나갔다.
우리에게 친숙한 대부분의 게임에서 이기려면 혼합전략(매번 전략을 바꾸는 방법)을 구사해야 한다. 이 세상 모든 타짜들이 알고 있듯이, 예측 불가능한 요소는 상대방을 혼란스럽게 만든다.
자신의 논문에 담긴 의미를 누구보다 깊이 이해했던 노이만은 다음과 같은 설명으로 화려한 피날레를 장식했다. “수학을 통해 내려진 결론과 경험적 사실(예를 들면 포커에서 적절한 블러핑(bluffing)이 효과적이라는 사실)이 일치한다는 것은 우리의 이론이 이미 실험적으로 검증되었음을 보여주는 확실한 증거이다.”
모든 사건은 게임이다
오늘날 게임이론은 경제학의 한 분야로 널리 알려져 있지만, 노이만의 1928년 논문에는 둘 사이의 연결고리가 서운할 정도로 간략하게 언급되어 있다. “어떤 일이건 간에, 각 참가자들에게 미치는 영향에 주안점을 두고 바라본다면 모든 사건은 전략 게임으로 간주할 수 있다.”
노이만은 참가자들 사이에 오가는 상호작용을 ‘고전 경제학의 핵심 문제’로 간주했다. “이 세상에 오로지 자기 자신밖에 모르는 ‘호모 이코노미쿠스(homo economicus)’는 주어진 외부 환경에 어떻게 반응할 것인가?”
이후 노이만은 다른 각도에서 경제학을 분석했는데, 그 출발점은 1932년에 프린스턴에서 “특정 경제 방정식과 브라우어의 고정점 정리의 일반화에 관하여(On Certain Equations of Economics and a Generalization of Brouwer’s Fixed-Point Theorem)”라는 제목으로 진행된 그의 세미나였다.
그로부터 4년 후에 빈 대학교에서 동일한 주제로 강연 요청이 들어왔고, 노이만은 제대로 된 강의 노트를 준비했다. 9페이지에 걸쳐 글자와 문자가 빼곡하게 들어찬 이 노트는 1937년에 연구회의록(proceedings)으로 출판되었고, 1945년에 영문판으로 출간되었다.
오늘날 ‘확장경제모형(Expanding Economic Model)’으로 알려진 그의 경제 이론은 생산과 소비, 그리고 퇴화가 반복되면서 경제가 ‘동적 평형(dynamic equilibrium)’을 향해 나아가고, 이 과정에서 경제가 ‘자연스럽게’ 최대 성장률에 도달한다는 것을 골자로 하고 있다.
이 모형에 의하면 경제가 평형에 도달했을 때 모든 상품은 최저가에 최대량으로 생산된다. 과거의 경제 모형은 평형점이 존재한다는 것을 아무런 증명 없이 그냥 가정하고 넘어갔다. 그러나 노이만은 “(예를 들어) 노동력을 무한히 공급할 수 있고 생활비를 초과한 수입은 모두 재투자된다”는 가정을 포함한 일련의 경제적 공리에서 출발하여 평형점이 나타난다는 것을 성공적으로 증명했다.
노이만의 증명은 네덜란드의 수학자 베르투스 브라우어(Bertus Brouwer, 1881~1966)가 개발한 위상수학(topology) 중 ‘고정점 정리(fixed-point theorem)‘ 기초한 것이다. 브라우어는 평소 ‘직관주의intuitionism’를 주장하며 힐베르트를 무던히도 괴롭혔던 사람이다.
그가 증명한 ‘고정점 정리’에 의하면 특정 함수의 경우 함수에 입력된 숫자와 그 출력에 해당하는 함숫값이 같은 경우가 적어도 하나 이상 존재한다. 이런 함수를 직교좌표에 그래프로 그렸을 때, 고정점에서는 x와 y의 값이 같다(함수 y=f(x)=x는 모든 점이 고정점이다).
이를 시각화하는 한 가지 방법은 같은 지역이 그려져 있으면서 축척만 다른 2개의 지도를 포개는 것이다. 두 지도를 포개놓고 적당한 위치에 핀을 꽂았을 때, 핀으로 뚫린 지점이 두 지도상에서 동일한 지점인 경우가 적어도 하나 이상 존재한다. 이것은 둘 중 하나의 지도를 임의의 방향으로 회전시켜도 항상 성립한다.
노이만은 자신이 제안한 모형이 실물경제의 자세한 시뮬레이션이 아니라 대략적인 비유일 뿐이라고 했다. 경제에 대한 연구가 세부사항을 다룰 수 있을 정도로 충분히 발달하지 않았다고 느꼈기 때문이다.
1947년에 노이만은 친구에게 다음과 같이 속마음을 털어놓았다. “만일 이 논문이 수백 년 후에 발견된다면, 발견자들은 1900년대 중반이 아니라 뉴턴 시대에 출간된 논문으로 생각할 거라고. 지금 경제학에서 사용하는 수학이 그 시대의 수학이거든. 물리학 같은 과학과 비교하면 경제학은 수백만 킬로미터쯤 뒤처진 것 같아.”
대부분의 경제학자들이 잘 이해하지 못하고 비난을 퍼부었지만, 노이만의 논문을 이해했던 영국의 수리경제학자 데이비드 챔퍼나운(David Champernowne)은 “경제학 이론에서도 고도로 일반화된 문제임에도 불구하고 우아한 수학적 해를 찾아냈다”고 칭찬하면서도, “원하는 결과를 유도하기 위해 지나치게 인위적인 가정을 내세웠다”며 일침을 놓았다.
경제학자들의 냉담한 반응에도 불구하고, 노이만의 ‘일반적 경제 균형의 모형(A Model of General Economic Equilibrium)’은 경제학계에 일대 혁명을 불러일으켰다. 노이만의 논문에 자극받은 수학자들은 너나 할 것 없이 경제 분야로 뛰어들어 암울했던 과학에 새로운 방법을 적용하기 시작했고, 1950년대에는 고정점 정리로부터 경제학의 핵심적 결과가 줄줄이 증명되었다. 드디어 수리경제학의 시대가 열린 것이다.
노이만의 영향을 받아 이 분야에 투신해서 노벨상을 받은 사람은 무려 여섯 명이나 되는데, 케니스 애로(Kenneth Arrow)와 제라르 드브뢰(Gérard Debreu)는 자유시장경제의 거동을 모형화한 일반균형이론으로 각각 1972년과 1983년에 노벨 경제학상을 받았다.
또한 영화 〈뷰티풀 마인드Beautiful Mind〉의 주인공으로 유명한 존 내시(John Nash, 1928~2015)도 노이만의 경제 이론을 발전시킨 내시 균형(Nash Equilibrium)의 개념을 정립하여 1994년에 노벨 경제학상을 수상했다.
[존 내쉬와 영화 '뷰티풀 마인드' 출처 구글 이미지]노이만이 프린스턴에서 세미나를 하고 거의 반세기가 지난 후, 미국의 역사학자 로이 와인트라웁(Roy Weintraub)은 노이만의 논문을 "수리경제학 역사상 가장 중요한 업적"으로 평가했다.
1928년에 최대최소 정리를 증명한 후 노이만이 10년도 넘은 후에 다시 게임이론으로 돌아오는 데 중요한 역할을 한 사람은 그의 가까운 독일인 친구이자 경제학자인 오스카 모르겐슈테른(Oskar Morgenstern, 1902~1977)이었다.
모르겐슈테른과 폰 노이만
모르겐슈테른은 참으로 유별난 사람이었다. 커다란 키에 다소 오만한 성격의 소유자였던 그는 항상 깔끔한 정장 차림에 자동차 대신 말을 타고 프린스턴 거리를 누비고 다녔다.
1902년 1월 24일에 독일의 괴를리츠에서 태어난 그는 프러시아의 슐레지엔 지방에서 어린 시절을 보낸 후 오스트리아에서 교육을 받았다. 어머니가 독일 황제 프리드리히 3세(Frederick III)의 사생아라는 사실을 자랑스럽게 여겼던 그는 미국으로 이주한 후에도 할아버지 황제의 초상화를 거실에 항상 걸어두었다고 한다.
1925년, 23세의 모르겐슈테른은 빈 대학교에서 박사학위 논문을 제출했다. 논문을 심사했던 교수들은 그의 명쾌하고 뚜렷한 논지에 깊은 감명을 받아 록펠러 재단의 후원을 받도록 연결해주었고, 모르겐슈테른은 그 후 3년 동안 영국과 미국, 프랑스, 이탈리아 등지를 여행하며 견문을 넓혔다.
모르겐슈테른은 연구 지원을 받는 동안 경기 순환의 원리를 깊이 파고들었다. 그러나 수학적 사고에 어느 정도 익숙해진 모르겐슈테른은 1928년에 발표한 논문을 통해 경기를 예측하는 것이 원리적으로 불가능하다고 주장했고, 평론가들은 학계의 시류를 거스르는 그의 논문에 부정적인 반응을 보였다.
그런데 다음 해에 월스트리트에서 주가 폭락 사태가 발생했고, 떨어지는 주가만큼이나 모르겐슈테른의 인지도는 하루가 다르게 높아졌다. 모르겐슈테른의 요지는 경기 예측이 기업과 대중들에게 영향을 미치고, 이들의 집단적 반응이 그 예측을 빗나가게 만든다는 것이었다.
정부 당국에서 이런 사태를 예상하고 다른 예측을 내놓으면 똑같은 이유로 또다시 빗나간다. 모르겐슈테른은 이처럼 예측과 반예측이 반복되는 순환 과정의 '풀 수 없는 문제'의 사례를 아서 코넌 도일(Arthur Conan Doyle)의 소설 『마지막 사건(The Final Problem)』에서 발견했다.
여기, 꽤 적절하면서도 흥미로운 비유가 있다. 숙적 모리어티 교수에게 쫓기던 셜록 홈스는 런던에서 도버로 가는 기차에 올라탄다. 이 기차는 중간의 다른 역에도 정차하는 완행열차였는데, 홈스는 도버까지 가지 않고 도중에 내린다. 기차를 타기 전에 런던 빅토리아역에서 모리어티 교수를 봤는데, 똑똑한 그가 급행열차를 타고 도버에 먼저 도착하여 자신을 기다릴 것이라고 생각했기 때문이다. 소설에서는 홈스의 판단이 옳았다. 하지만 모리어티 교수가 홈스보다 똑똑해서 홈스가 도중에 내릴 것을 미리 예측했다면 어떻게 될까? 이런 경우라면 모리어티 교수도 당연히 도중에 내릴 것이다. 그런데 너무나 똑똑해서 이런 경우까지 예측한 홈스는 도중에 내리지 않고 도버까지 갔고, 또 이것을 예측한 모리어티 교수도 도버까지 갔다. 그러나 이것마저 예측한 홈스는 도중에 내리기로 했고. 또 이것을 예측한 모리어티 교수는 ..이런 식으로 계속 맴돌다 보면 결국 "아무런 행동도 취하지 않는 게 낫다"는 결론에 도달하게 된다. 결국 두 사람은 생각을 너무 많이 하다가 기차를 타지 못하고, 둘 중 조금이라도 덜 똑똑한 사람이 빅토리아역에서 상대방에게 잡힐 것이다. 이와 비슷한 사례는 우리 주변에서 흔히 볼 수 있는데, 대표적 사례가 바로 체스다. 단, 체스는 복잡한 규칙에 따라 진행되기 때문에 상황이 훨씬 복잡하다.
그는 1928년부터 오스트리아 태생 영국인 경제학자 프리드리히 하이에크(Friedrich Hayek, 1974년 노벨 경제학상 수상)와 함께 빈에 있는 오스트리아 경기변동연구소(Trade Cycle Institute)의 공동 소장직을 맡고 있었는데, 하이에크는 1931년에 런던경제학교로 자리를 옮겼다.
1938년 1월, 모르겐슈테른은 카네기 국제평화재단으로부터 한동안 미국에서 강의를 해달라는 요청을 받았다. 미국에서 강의 중이던 모르겐슈테른은 자신이 게슈타포(나치 비밀경찰)의 블랙리스트에 올랐다는 소식을 전해 듣고 오스트리아로 돌아가지 않기로 결심했다.
그는 프린스턴 고등연구소에 있는 노이만을 만나고 나중에 그 곳에 들어갈 수 있기를 기대하며 다른 대학들이 제안한 교수직 대신 프린스턴 대학교의 강사직을 택했다. 이후 그는 열다섯 살 연하의 빨간 머리 은행원 도러시 영과 결혼하여 점잖은 동네에 파문을 일으켰고, 그해 학기가 끝난 직후에 드디어 노이만을 만날 수 있었다.
[프린스턴에서의 모르겐슈테른과 노이만 출처 본문]『게임이론』, 수학으로 세상을 보다
당대 최고의 수학자에게 인정받기를 간절히 원했던 모르겐슈테른은 수시로 노이만을 찾아가 자신의 이론에 대한 노이만의 의견을 물었고, 얼마 후 두 사람은 각자의 연구 주제를 서로 비교하다가 공통점을 발견했다. 알고 보니 모르겐슈테른의 ‘풀 수 없는 문제’는 노이만의 게임이론으로 다룰 수 있는 문제였다.
노이만은 자신의 이론을 “플레이어가 세 명 이상인 일반적인 경우”로 확장하는 작업에 착수했다. 모르겐슈테른도 경제학자들에게 게임이론을 소개하는 논문을 쓰기 시작했고, 1941년 7월 12일에 노이만이 공동 집필을 제안했을 때에는 세상을 다 얻은 듯 기뻐했다.
하지만 100페이지 정도 분량에 몇 주면 끝날 것 같았던 일이 몇 달로 길어졌다. 게다가 이제 막 탄생한 게임이론의 기술적 측면에 기여하기가 힘에 부쳤던 모르겐슈테른은 경제학 분야에서 조언을 하거나 간간이 흥미로운 질문을 던지는 등, 노이만을 보조하는 역할로 만족해야 했다.
그러나 두 사람이 붙어 다니는 모습에 누구보다 질린 사람은 노이만의 아내 클라라였다. 평소 취미 삼아 코끼리 장식품을 수집하던 그녀는 “그 책에 코끼리가 등장하지 않았다면 나와는 완전히 무관한 책이 되었을 것”이라고 했다. 아닌 게 아니라, 이 책의 8.3절에 제시된 집합론 다이어그램에는 코끼리가 절묘하게 숨어 있다.
[코끼리를 숨기는 방법 - '게임이론' 출처 본문]나날이 늘어나는 책의 분량에 지레 겁을 먹은 프린스턴 출판부에서는 당장 프로젝트를 중단하라고 압력을 가해왔다. 그러나 두 사람은 끈질기게 연구를 밀어붙인 끝에 1943년 4월에 사회과학의 새로운 지평을 연 최고의 명저 『게임이론과 경제 행위(Theory of Games and Economic Behavior)』(이하 『게임이론』)의 1,200페이지짜리 '소책자'를 탈고하여 편집자의 책상 위에 '쿵!'하는 소리와 함께 배달되었다.
이 책에서 모르겐슈테른이 가장 많이 기여한 부분은 전체적인 내용을 소개하는 서문(Introduction)인데, 그는 이 글을 쓰면서 자신이 쌓아온 경력에 대한 환상에서 완전히 깨어났다고 한다. 또한 존 메이너드 케인스(John Maynard Keynes)에게도 직격탄을 날렸다. "모든 사람들이 그의 면전에 서기만 하면 바짝 엎드리는데, 사실 그는 경제과학 역사상 최대의 사기꾼이다."
『게임이론과 경제 행위』는 기존 경제학에 대한 비판으로 시작된다. "그들에게 수학은 취약한 기초를 가리는 위장 수단에 불과했다. 경제학자들은 스케일이 크고 중요한 질문을 제기하면서, 후속 논리에 걸림돌이 될 것 같은 요소를 모두 무시해왔다. 그러나 첨단과학의 상징인 물리학의 역사를 돌아볼 때, 이런 성급한 처사는 진보를 방해할 뿐, 아무런 도움도 되지 않는다."
살짝 도발적인 서문이 끝나면 '집합론과 함수해석에 기초한 일련의 증명'이 거의 600페이지에 걸쳐 이어진다(이 부분은 주로 노이만이 집필했다). 『게임이론』의 본론은 개인과 자연이 대치하는 사례에서 출발한다. 무인도에 표류한 로빈슨 크루소의 경제학이다. 방해할 사람이 아무도 없으니, 크루소는 섬이 허용하는 범위 안에서 모든 욕망을 충족시킬 수 있다.
그런데 섬에 프라이데이 같은 또 다른 사람이 나타나면 어떻게 될까? 한 사람만 늘어나도 전략은 크게 달라져야 한다. 두 사람이 원하는 항목 중에 겹치는 것이 있으면 당장 충돌이 일어날 것이다. 노이만과 모르겐슈테른은 말한다. "이것은 단순한 최대 문제가 아니라, 몇 개의 최대 문제가 섞인 독특하고도 당혹스러운 문제이다."
노이만과 모르겐슈테른은 이런 상황에서 미적분 같은 고전적인 수학은 무용지물이라고 선언하면서, "사람들은 위와 같은 유사-최대 문제(pseudo-maximum problem, 최대 문제처럼 보이지만 알고 보면 아닌, 복잡한 문제)를 잘못 이해하여 이룰 수 없는 목표를 설정하거나 엉뚱한 결론을 내리곤 한다"고 지적했다.
"모든 사회적 노력은 최대한 많은 사람들에게 최대한의 이익이 돌아가도록 배분하는 것을 목표로 한다"는 슬로건이 그 대표적 사례이다. 수학적으로 2개(또는 그 이상)의 함수를 동시에 최대화하는 일반적인 방법은 존재하지 않는다.
물론 올바른 접근법은 게임이론에서 제시한 방법이다. 노이만은 2인 제로섬 게임의 원리를 설명한 후, 플레이어가 3인 이상이면서 손익의 총합이 0이 아닌 게임으로 논리를 확장해나갔다.
무엇보다도, 한 사람이 펼칠 수 있는 '최선의' 전략을 이론 안에서 명확하게 정의하려면 플레이어가 좋아하는 것과 싫어하는 것을 정량적으로 간단하게 표현할 수 있어야 한다. 당시 주류 경제학자들은 '개인의 선호도를 수치로 나타내는 것은 불가능하며, 단지 순위만 매길 수 있다'고 생각했다.
모르겐슈테른이 이 점을 지적하자, 노이만은 즉석에서 노트에 공리 하나를 빠르게 휘갈리면서 개인의 호불호를 행복 수치(또는 유용성 수치)로 나타내는 혁명적인 방법을 떠올렸다. 접시에 담긴 수프의 뜨거운 정도를 온도계로 측정하는 것과 비슷한 개념이다.
“사회과학 역사상 가장 중요한 이론이 담긴 책”
'합리적' 플레이어의 '효용이론'
한 개인이 싫어하거나 좋아하는 대상(또는 상황)을 하나도 빠짐없이 목록으로 작성할 수 있을까? 단순하면서도 복잡하고, 아름답고, 추하고, 미묘하고, 절묘하고, 때론 역겹기까지 한 세상에서, 한 개인이 호불호를 느끼는 종목을 망라하는 것이 과연 가능한 일일까? 노이만은 "가능하다"고 단언한다.
그래서 게임이론은 이 목록이 완벽하게 정의된 개인의 존재를 가정하고 있다. 즉 2개의 사물이나 2개의 사건이 주어졌을 때, 종류가 무엇이건 둘중 하나를 항상 선택할 수 있다. 노이만은 이런 '소박한' 가정이 성립하는 한, 모든 대상에 '효용 점수(utility score)'를 매길 수 있다고 주장한다(점수의 단위는 '유틸(util)'이다).
여기서 유틸을 계산하기 위해 '확률' 개념이 등장한다. 예를 들어 생일을 취소하면 100유틸인 천국에 갈 수 있는 복권을 받을 수 있는 상황에서 생일을 취소할 것인지 여부를 선택 해야 한다면, 그 대가인 복권의 당첨 확률이 중요하다. 즉 당첨 확률이 75%라면 생일 파티는 100 x 0.75 = 75유틸의 가치가 있고, 평소 위험한 투자를 꺼리는 사람이어서 98%의 당첨 확률을 원한다면 생일 파티는 98유틸의 가치가 있는 셈이다.
노이만은 "'합리적(rational)' 사고를 하는 다른 플레이어를 상대로 자신의 이득을 극대화하는 전략을 펼치는 사람이 바로 '합리적인' 플레이어다." 그리고 여기에 효용이론(utility theory)을 적용하면 플레이어가 원하는 모든 것을 숫자로 나타낼 수 있으므로 수학이 엄청나게 단순해진다.
『게임이론』이 출간되고 60여 년이 지난 2011년에, 노벨 경제학상 수상자인 대니얼 카너먼(Daniel Kahneman)은 이 책을 가리켜 "사회과학 역사상 가장 중요한 이론이 담긴 책"이라고 했다. 이 책이 출간된 후 이론의 핵심인 '효용이론'과 '합리적 계산'의 개념은 상아탑을 넘어 모든 분야로 빠르게 퍼져나갔다.
완전 정보형 2인 제로섬 게임의 분석
효용이론으로 기본 무장을 마친 노이만은 2인 게임을 본격적으로 분석하기 시작한다. 노이만은 게임을 표현하는 두 가지 방법을 고안했다. '확장형(extensive form)'과 '정규형(normalized form)'이 바로 그것이다. 두 가지는 원리적으로 동일하기 때문에, 문제의 형태에 따라 편리한 것을 골라서 적용하면 된다.
확장형 표현은 나무와 비슷하다. 모든 움직임(플레이어의 행동)은 '노드(node)'라 불리는 분지점에 대응되고, 하나의 분지점에서는 플레이어가 취할 수 있는 행동의 수만큼 가지가 갈라져 나간다. 그리고 가지가 끝나는 곳에 달린 '리프(leaf)'에 게임의 최종 결과가 대응되는 식이다('틱택토'나 '체스' 등).
노이만은 체스와 틱택토 게임을 ‘완전정보형 게임(game of perfect information)’이라 불렀다. 모든 움직임이 양쪽 플레이어 모두에게 공개되어 있기 때문이다. 그리고 그는 게임이 영원히 계속되지 않는 한, "완전정보형 2인 제로섬 게임에는 항상 해가 존재한다"는 것을 증명했다.
노이만은 이 정리를 증명하기 위해 ‘역진귀납법(backward induction)’을 사용했다. 게임 다이어그램의 경우, 역진귀납법이란 각 가지의 리프(끝)에서 시작하여 나무의 본줄기(몸체)에 도달할 때까지 거꾸로 거슬러 올라가면서 ‘비합리적인’ 움직임을 제거해나가는 수학적 과정에 해당한다.
[『게임이론』에 나오는 틱택톡 게임의 수 선택 '확장형' 다이어그램 출처 본문]확장형 표현은 게임이 조금만 복잡해도 다이어그램은 거의 알아볼 수 없는 지경이 되어버린다. 이럴 때는 게임의 득과 실(효용 점수)이 명기된 정규형[또는 전략형(strategic)] 다이어그램이 훨씬 유용하다. 노이만은 몇 가지 사례를 제시했는데, 앞서 언급한 ‘동전 짝맞추기’의 정규형 다이어그램은 아래와 같다.
[동전 짝맞추기 '정규형' 배점표 출처 본문]언뜻 보기에 동전 짝맞추기와 완전히 다른 것 같으면서도, "알고 보면 2인 제로섬 게임인 경우"가 종종 있다. 노이만은 이것을 보여주기 위해 모르겐슈테른이 말했던 ‘불가능한 문제’, 즉 코넌 도일의 소설을 다시 소환하여 홈스와 모리어티 교수가 펼칠 수 있는 가장 이상적인 전략과 홈스가 탈출에 성공할 확률을 계산했다.
노이만은 모리어티 교수가 도버나 캔터베리에서 홈스를 잡으면 100유틸을 획득하고, 모리어티가 캔터베리에서 내렸는데 홈스가 도버에 도착하여 유럽 대륙으로 탈출하는 데 성공하면 50유틸을 잃는 것으로 설정했다(런던을 서울에, 도버를 부산에 비유하면 캔터베리는 대구쯤 된다).
그리고 모리어티 교수가 런던에서 급행열차를 타고 도버까지 갔는데 홈스가 캔터베리에서 하차하여 모리어티의 추격을 따돌린다면 이 게임은 무승부가 된다. 왜냐하면 홈스는 대륙으로 탈출하지 못했고, 모리어티 교수는 홈스를 잡지 못하여 추격전이 계속될 것이기 때문이다.
[모리어티와 홈스의 전략 '정규형' 배점표 출처 본문]이 경우 (*수학적 확률로 계산하면) 모리어티에게 최선의 전략은 60퍼센트의 확률로 도버까지 가고, 40퍼센트의 학률로 캔터베리에서 내리는 것이다. 이렇게 하면 홈스가 어떤 선택을 하건 모리어티에게 주어질 평균 효용 점수는 40유틸이 된다.
그러나 홈스의 입장에서 최선의 전략은 이와 정반대이다. 즉 60퍼센트의 확률로 캔터베리에서 내리고, 40퍼센트의 확률로 도버까지 가야 한다. 코년 도일의 소설 '마지막 사건'은 캔터베리에서 내린 홈스가 역에 쌓여 있는 화물 더미 뒤에 숨어서 모리어티를 태우고 달리는 급행열차를 바라보는 것으로 일단락된다.
노이만의 분석에서는 두 사람 모두 개연성이 가장 높은 경우를 선택하지만, 확률은 모리어티에게 유리한 쪽으로 설정되어 있다. 그의 가정에 의하면 기차가 빅토리아역에서 출발할 때 셜록 홈스가 잡힐 화률은 48퍼센트이고, 추격을 따돌릴 확률은 16퍼센트밖에 안 된다.
어쨌거나 노이만은 모르겐슈테른이 "풀 수 없는 문제"라고 단언했던 문제를 깔끔하게 해결했고, 입장이 난처해진 모르겐슈테른은 책의 각주에 "내가 고수해왔던 비판적 견해를 철회한다"고 적어 놓았다.
포커판에 앉은 노이만
불완전 정보형 2인 제로섬 게임의 분석
노이만은 1928년에 게임이론 논문을 탈고한 후 “게임이론의 관점에서 포커를 분석하여 발표할 것”이라고 약속한 적이 있다. 그리고 그로부터 15년이 지난 후, 그는 약속을 지켰다. 다들 알다시피 포커는 시종일관 다른 플레이어의 카드를 볼 수 없는 상태에서 진행되기 때문에, 체스와 달리 ‘불완전 정보형 게임(game of imperfect information)’이다.
노이만은 문제가 처음부터 복잡해지는 것을 방지하기 위해, 플레이어가 단 두 명인 포커 게임을 분석 대상으로 삼았다. 사실 노이만의 『게임이론』의 3분의 1은 2인 제로섬 게임에 관한 내용이다.
표준 포커 게임은 각 플레이어에게 다섯 장의 카드를 나눠주면서 시작되는데, 노이만은 이것을 점수로 환산하여 “각 플레이어는 처음 5장을 받는 순간 족보(원페어, 투페어, 트리플 등등)의 높낮이에 따라 0에서 100 사이(1~99)의 효용 점수를 얻는다”고 가정했다. 한 플레이어의 5장의 카드의 점수가 66점이면 그는 자신의 족보가 상대방보다 높을 확률이 두 배 크다고 생각할 것이다. 그 생각은 실제로 옳다(66점짜리 카드 배열보다 족보가 높은 카드 배열은 33가지이고, 낮거나 같은 카드 배열은 66가지이기 때문이다).
그가 정의한 포커 게임에서는 카드를 바꿀 수 없고, 베팅은 단 한 번만 할 수 있으며, 베팅액수는 ‘하이high 베팅(액수가 큰 베팅)’에 해당하는 H파운드와 ‘로low 베팅(액수가 적은 베팅)’에 해당하는 L파운드 중 하나만 선택할 수 있다. 따라서 H와 L의 차이가 클수록 게임의 위험도가 높아진다.
두 플레이어는 5장의 카드를 받은 후 자신의 베팅 의사를 동시에 밝힌다. 둘이 같은 베팅을 하면 카드를 비교해서 이긴 쪽이 해당 H 내지 L파운드를 가져가면 되고 무승부이면 회수하거나 쌓아두고 다음 게임으로 넘어 간다. 두 사람의 베팅이 다르면 로 베팅을 한 사람은 카드를 공개하지 않은 채 자신이 베팅한 L파운드를 상대방에게 양보하고 ‘패스pass’를 선언하거나, 자신의 베팅을 하이로 바꿔 승부를 겨룰 수 있다.
이 경우 노이만은 두 플레이어의 최대최소 전략이 “점수가 높은 카드를 손에 들고 하이 베팅을 하는 것”이라고 했다. 물론 당연한 이야기다. 하이 베팅을 해도 되는 점수의 임계점, 즉 점수의 하한선은 하이와 로에 걸린 돈(H와 L)의 상대적 크기에 따라 결정된다.
그런데 “임계점수보다 낮은 카드를 받은 플레이어는 어떤 전략을 구사해야 할까?” 그의 설명에 따르면 이런 플레이어는 로 베팅을 하는 것이 안전하지만, 가끔은 낮은 패임에도 불구하고 하이 베팅을 할 필요가 있다. 즉 가끔은 블러핑을 시도할 필요가 있다는 것이다. 블러핑의 이상적인 빈도수는 H와 L의 비율에 따라 달라진다.
그러나 똑똑한 플레이어는 평소 블러핑을 하지 않는 상대가 하이 베팅을 할 때마다 패스를 외치고 자신은 블러핑을 자주 시도할 것이다. 영국의 수학자 켄 빈모어는 말한다. “블러핑의 핵심 기능은 낮은 패로 상대방을 이기는 것이 아니라, 당신의 패가 좋을 때 그저 그런 패를 든 상대방이 끝까지 따라오도록 부추기는 것이다.”
[H파운드가 L파운드의 세 배인 경우 이상적인 전략]게임이론을 현대의 경제 시스템에 적용할 수 있을까?
2인 제로섬 게임에 대한 노이만의 자세한 설명은 포커를 끝으로 마무리된다. 그는 게임이론의 공리를 제시하고 ‘게임’과 ‘전략’ 같은 단어를 자신의 이론에 맞게 재정의했으며, 1928년에 발표했던 논문보다 훨씬 기본적인 단계에서 최대최소 정리를 증명했다.
『게임이론』의 나머지 부분에서 노이만은 지금까지 얻은 결과를 여러 사람이 참여하는 ‘다중 게임’과 상호 이익(mutual benefit, 2인 이상이 동시에 이득을 얻는 것)이 가능한 상황으로 확장시켰다.
다중 게임과 비제로섬 게임(non-zero sum games)을 다루려면, 이들을 2인 제로섬 게임으로 단순화하는 방법부터 찾아야 한다. 노이만의 최대최소 정리에 의하면 이런 게임에는 항상 해가 존재하므로, ‘가짜’ 2인 게임을 분석하면 진짜와 가짜를 다루는 최선의 방법이 드러날 수도 있다.
3인~5인 전략 게임의 분석
노이만이 출발점으로 삼은 것은 세 사람으로 진행되는 ‘3인 전략게임’이었다. 세 사람이 서로 이기려고 경쟁하는 상황에서는 1등을 하기 위해 처음부터 기를 쓰는 것보다, 두 명이 연합해서 나머지 한 명을 먼저 제거한 후 2인 게임을 벌이는 것이 훨씬 효과적이다.
그런데 사전에 결탁한 상대가 약속을 지킨다는 것을 어떻게 확신할 수 있는가? 그 약속이 이행되기 위해 어떤 장치가 필요한가? 노이만은 말한다. “대부분의 게임은 공정한 규칙에 따라 진행되지만, 참가자의 행동은 반드시 공정하다는 보장이 없다. 그리고 모든 협상은 일종의 게임으로 간주할 수 있다.”
플레이어가 세 명일 때 가능한 2인 연합은 세 가지가 있다(A+B, A+C, B+C). 노이만은 자신의 이론이 적용되는 대상을 ‘정적 1회성 게임(static one-off game)’으로 한정했지만, 노이만의 이론으로는 실제로 어떤 연합이 형성될지 예측할 수 없어, 결국 많은 경우 안정적이고 유일한 해를 구할 수 없다는 것을 인정해야 했다.
그 대신 노이만과 모르겐슈테른은 “현실 세계에는 특정 시대나 특정 지역의 문화적 규범처럼 ‘이미 확립된 사회적 질서(established order of society)’가 존재하기 때문에, 특별한 형태의 연합은 안정적으로 유지될 수 있다”고 주장함으로써 부족한 부분을 보완했다.
다음은 4인 게임을 다룰 차례다. 이 부분에서 노이만은 몇 가지 특수한 경우(이미 해가 알려진 2인 게임이나 3인 게임으로 축소할 수 있는 경우)를 집중적으로 다루었다(4인 게임의 일반론을 펼치기가 어려웠기 때문이다).
그 후에 등장하는 5인 게임은 훨씬 더 제한적이어서, 노이만은 전략에 대한 보상이 그 전략을 펼친 사람과 무관하게 다른 전략에 의해 결정되는 ‘대칭 게임(symmetric games)’만 다루었다.
N-게임의 분석
이제 드디어 플레이어의 수가 특별히 정해지지 않은 n-게임에 도달했다. 노이만은 말한다. “n이 큰 경우, 계의 지배 조건을 이해하는 것은 매우 중요하다. 왜냐하면 이것은 게임이론을 경제와 사회에 적용하는 가장 중요한 관문이기 때문이다.” 그러나 그는 “지금 단계에서는 포괄적이고 체계적인 정보를 얻기 어렵다”고 인정했다.
다음 단계에서 노이만은 더욱 일반적인 답을 향해 나아가면서, 요즘 게임이론 학자들이 ‘안정적 집합(stable set)’이라 부르는 집합을 정의한다. 이것은 다른 어떤 대안으로도 대치될 수 없는 최상의 해집합으로, 각각의 해는 연합 파트너들 사이의 신뢰를 보장하는 일련의 ‘측면 보상(또는 지원금)’에 해당한다. 어떤 해가 최후의 승자가 될지는 이들 사이에 보편적으로 수용된 ‘표준 행동’에 따라 결정된다.
지금까지 노이만은 제로섬 게임만 다뤄왔다. 그러나 인간의 삶에 오로지 갈등과 충돌만 있는 것은 아니며, 경제 성장은 제로섬 게임이 아니다. 사람들 사이의 경쟁은 가끔 윈-윈 게임(win-win game, 모두가 이득을 보는 게임)으로 끝나기도 하고, 모든 사람이 손실을 보기도 한다.
노이만과 모르겐슈테른은 ‘경제 행위(Economic Behavior)’에 대해 무언가 유용한 결론을 도출하려면 비제로섬 게임을 다루는 방법부터 개발해야 한다는 것을 잘 알고 있었다. 그리고 『게임이론』의 마지막 부분에서 두 사람은 실제로 그 방법을 제시했다. 그러나 이 부분은 수학적 엄밀함이 결여된 임시방편처럼 보였다.
이 부분에서 노이만은 수동적인 ‘가상의 플레이어’를 도입했는데, n-제로섬 게임에 이 유령 같은 플레이어를 끼워넣으면 (n+1)-제로섬 게임으로 변형되며, 이 문제는 앞에서 수백 페이지에 걸쳐 개발한 각종 장치를 이용하여 해결할 수 있다. 이로써 노이만은 게임이론을 가장 단순한 경제 시스템에 적용할 준비를 마쳤다.
게임이론에 대한 경제학자들의 반응
현대에 통용되는 경제 모형은 프랑스의 경제학자 레옹 발라(Léon Walras)의 이론에 기초한 것이다. 일반균형이론의 대부로 알려진 그는 1870년대에 ‘완벽한 경쟁’이라는 가정하에 경제의 동향을 예측하는 방정식을 개발했다(1874년과 1877년에 《순수경제학요론》(Éléments d'économie politique pure)을 출판했다). 또한 발라의 이론에서 독점이나 과점과 같은 일시적 일탈 행위는 ‘시장의 마법’에 의해 자연스럽게 제거된다.
이에 반해 노이만과 모르겐슈테른이 『게임이론』 집필에 착수했던 1940년대에 경제학자들은 독점 경쟁이 예외적 일탈 행위가 아니라 하나의 규칙임을 깨닫기 시작했다. 『게임이론』은 엄격한 독점금지법이나 견제 장치가 없는 상황에서 독과점이 잡초처럼 자라는 이유를 설명해준다.
1개 또는 몇 개의 대기업이 시장 지배권을 손에 넣으면 이익을 극대화하기 위해 자신의 큰 덩치를 최대한으로 활용할 것이고, 이들이 적극적으로 담합을 하지 않더라도 노이만과 모르겐슈테른의 ‘연합’이 그랬던 것처럼 소비자 가격을 올릴 것이다. 이런 현상은 노이만의 공리만으로도 충분히 설명 가능하다.
하지만 노이만과 모르겐슈테른의 책에서 게임이론을 경제에 적용하는 부분은 비교적 간략하게 설명되어 있으며, 주로 1~3인 비제로섬 게임의 결과를 인용했다. 그것도 자세한 설명은 없고, 이론의 잠재력을 감질나게 소개한 정도이다.
1944년에 완성된 노이만과 모르겐슈테른의 『게임이론』 초판은 출간 즉시 매진되었다. 표지에 실린 《뉴욕타임스》의 추천사와 저명한 기자들의 서평이 의외의 베스트셀러를 낳은 것이다. 한 평론가는 “이런 책이 열 권만 더 있으면 경제학은 장족의 발전을 이룰 것”이라고 했다.
그러나 쏟아지는 찬사에도 불구하고 『게임이론』은 경제학자들에게 별다른 관심을 끌지 못했다. 무엇보다도 내용이 지나치게 수학적이라는 것이 문제였다. 게임이론의 온상은 프린스턴의 수학과였는데도, 그곳의 경제학자들조차 적대적인 반응을 보였다. 책을 집필한 저자의 경력도 논란의 불씨로 작용했다. 노이만은 경제학자로서는 아직 아웃사이더였고, 모르겐슈타인은 거만한 태도로 비난을 많이 받고 있었기 때문이다.
사람들이 『게임이론』을 푸대접한 진짜 이유는 “경제 문제를 다루는 이론”으로서 자신의 가치를 충분히 입증하지 못했기 때문이다. 또한 n-게임에서 제시한 ‘안정적 집합’도 논쟁거리로 떠올랐다. 모든 형태의 다중 게임에서 누군가가 기존의 계약을 파기해도 피해를 입지 않는 굳건한 연합이 존재할 것인가?
무엇보다 『게임이론』의 가장 큰 맹점은 플레이어들이 연합을 결성할 수 없거나, 연합을 원치 않거나, 연합 자체가 금지된 경우를 고려하지 않았다는 것이다.
그러나 『게임이론』이 제시한 효용성(utility)의 개념과 게임의 엄밀한 서술, 그리고 다양한 표현법 등 노이만이 이룬 위대한 업적은 후대 수학자들이 세울 웅장한 건축물의 주춧돌이 되었다.
자신의 가치를 증명한 게임이론
노이만과 모르겐슈테른의 『게임이론』이 출간되고 50년이 지난 1994년 노벨 경제학상 수상자는 존 내시(그는 수십 년 동안 정신병에 시달리다가 수상 몇 년 전에 건강을 회복했다)와 독일의 게임이론 학자 라인하르트 젤텐(Reinhard Selten), 그리고 헝가리계 미국인 경제학자 존 하사니(John Harsanyi)로 결정되었다.
[출처 구글 이미지]그리고 그 해 게임이론은 자신의 가치를 확실하게 입증했다. 당시 미국 연방통신위원회는 주파수 대역 경매에서 유찰과 저가 낙찰을 미연에 방지하기 위해 해결책을 공모했고, 게임이론 학자 폴 밀그럼(Paul Milgrom)과 로버트 윌슨(Robert Wilson)이 설계한 ‘동시오름경매(simultaneous ascending auction)’ 방식의 경매 관리 시스템이 채택되었다(이 이론으로 둘은 2020년 노벨 경제학상 수상).
이 방식으로 인해 1994년 7월에 열린 경매에서 성공적으로 무선 호출 서비스 공급권이 6억 1,700만 달러에 낙찰되었고, 다음 해에는 《뉴욕타임스》가 “역사상 가장 위대한 경매”라고 극찬했던 정부 주도 경매에서 99개의 통신 서비스 공급권이 총 70억 달러에 판매되었다.
[2020년 노벨 경제학상 출처 구글 이미지]이후로 수많은 게임이론 학자들이 노벨상의 영예를 안았다. 2005년에는 토머스 셸링(Thomas Schelling)과 로버트 아우만(Robert Aumann)이 충돌과 협동에 관한 연구로 노벨상을 받았고, 협동적 게임이론(cooperative game theory)을 개발한 로이드 섀플리(Lloyd Stowell Shapley)는 89세가 된 2012년에 수상하였다.
2009년에는 노벨 경제학상이 사상 최초로 여성에게 돌아갔다. 주인공인 엘리너 오스트롬(Elinor Ostrom)은 '게임이론'을 이용하여 공동 자원(집단 행동에 의해 쉽게 고갈될 수 있는 공동 자원) 관리법을 개선하기 위해 세계 각지를 돌아다닌 사람으로 유명하다.
그녀는 여러 국가의 지역 주민들이 공동 자원을 보호하는 방법을 추적하다가 네팔에서 매우 인상적인 현장을 목격했다. 한 농부가 공동 우물의 사용 규칙을 어겼는데, 마을 사람들이 그 벌로 농부가 키우는 소를 ‘소 감옥’에 가두었고, 농부는 소정의 벌금을 지불해야 소를 돌려받을 수 있었다(게임이론 중 '공유지의 비극' 이론).
[2009년 노벨 경제학상 엘리너 오스트롬 출처 구글 이미지]오스트롬처럼, 게임이론의 기본 원칙에 질문을 제기하면 의외의 통찰이 생기는 경우가 종종 있다. 또 한 사람의 노벨 경제학상 수상자이자 심리학자인 대니얼 카너먼(Daniel Kahneman)은 게임이론의 가정, 즉 “인간은 전적으로 합리적이며, 그들의 취향과 선호도는 절대 변하지 않는다”는 가정에 도전장을 내밀었다.
20세기 최고 지성인 중 한 사람인 노이만을 항상 동경해왔다는 카너먼과 그의 동료 아모스 트버스키(Amos Tversky)는 현실 세계에서 사람들이 무언가를 결정하는 방식을 연구한 끝에 그들만의 ‘전망이론(prospect theory)’을 개발하여, 효용이론의 예측과 일치하지 않는 결과를 얻어냈다.
[아모스 트버스키와 대니얼 카너먼 출처 구글 이미지]2014년도 노벨상 수상자인 장 티롤(Jean Tirole)은 게임이론을 이용하여 소수의 대기업이 지배하는 산업계를 분석했다. 오늘날의 인터넷 경제에 딱 들어맞는 주제이다. 아직까지 경제학에서 과점(oligopoly)에 대한 이론은 개괄적인 수준이라서, 과점 시장을 이해하고 규제하는 티롤의 이론은 눈여겨볼 만하다.
IT 회사들은 온라인 광고와 시장, 입찰 시스템, 우선 제품 선별 알고리듬 등을 개발하고 정부의 규제보다 앞서 나가기 위해 최고 수준의 게임이론가를 고용해왔는데, 그중에서도 가장 유용한(그리고 수익성 있는) 응용 분야는 ‘경매 설계(auction design)’이다. 특히 검색 결과에 광고를 같이 띄우는 데 사용되는 키워드의 가격을 효과적으로 결정하려면 이들의 도움이 절실하게 필요하다.
[2014년 노벨 경제학상 장 티롤 출처 구글 이미지]진화게임이론으로의 진화
게임이론이 진출한 분야 중 가장 의외인 곳은 아마도 '동물행동학' 분야일 것이다. 이 분야의 선구자 중 한 사람인 윌리엄 해밀턴(William D. Hamilton)은 케임브리지 대학교의 학부생이었던 1950년대 후반에 노이만과 모르겐슈테른의 『게임이론』을 읽은 후로 게임이론에 관심을 갖게 되었다고 한다.
이 분야에서 해밀턴이 남긴 가장 중요한 업적은 개개의 종種들이 발휘하는 이타심과 관련도(친족 관계) 사이의 상호관계를 수학 모형으로 설명한 것이다. 흔히 ‘포괄 적응도(inclusive fitness)’로 알려진 그의 이론은 리처드 도킨스(Richard Dawkins)의 『이기적 유전자(The Selfish Gene)』를 통해 널리 알려지게 된다.
미국의 화학자 조지 프라이스(George Price)와 생물학자로 변신한 존 메이너드 스미스(John Maynard Smith)는 함께 자연에서 관찰되는 다양한 행동 양식을 동물들 사이에서 벌어지는 ‘게임’이나 ‘경쟁’으로 재구성하여 ‘진화론적으로 안정한 전략(evolutionarily stable strategy)’이라는 개념을 확립했다.
프라이스와 스미스는 이것을 ‘매와 비둘기의 게임(Hawk-Dove game)’으로 설명했다. 매는 호전적이고 비둘기는 싸움을 원하지 않는다. 처음에는 공격적인 매가 진화에 유리할 것 같지만 그들은 서로 공격하다 부상 당할 위험이 있는 반면 비둘기는 싸움을 하지 않아 건강한 상태로 음식과 자원을 찾을 수 있다. 이렇게 서로 시행착오를 겪다 보면 매와 비둘기는 적정한 비율로 섞여(진화적으로 안정된 상태) 공생을 하게 된다는 것이다.
해밀턴은 1978년에 런던 임페리얼 칼리지에서 미국의 미시간 대학교로 자리를 옮겼고, 몇 년 후부터는 정치과학과 교수 로버트 액설로드(Robert Axelrod)와 함께 (게임이론가를 포함한) 학자들을 초청하여 컴퓨터게임 전략을 주제로 경연을 벌였다. 이 대회는 200종의 ‘죄수의 딜레마(prisoner’s dilemma)’ 중 하나를 골라서 각 라운드마다 상대방과 겨루는 식으로 진행된다.
죄수의 딜레마가 여러 번 반복될 때 참가자가 펼칠 수 있는 최선의 전략은 게임이론 학자 아나톨 래퍼포트(Anatol Rapoport)가 제안한 ‘팃포탯(Tit-for-Tat)’으로 알려져 있는데, 내용은 아주 단순하다. 기본적으로 협동정신을 발휘하되, 상대가 배신하면 나도 똑같이 배신하는 것이다, 액설로드의 게임은 이기적인 쪽으로 진화한 동물들 사이에서도 협동 관계가 형성될 수 있음을 보여주었다.
노이만의 게임이론에 등장하는 합리적 플레이어를 진화 전략과 자연선택으로 대치한 ‘진화게임이론(evolutionary game theory)’은 남녀 간의 짝짓기 전략에서 언어의 진화에 이르기까지 다양한 인간사에 적용되어, 그럴듯한 설명과 함께 숱한 논쟁을 야기했다.
엘리너 오스트롬은 2012년에 발표한 논문에 다음과 같이 적어놓았다. “테니스를 칠 때나 공직 출마 시기를 저울질할 때, 포식자와 피식자의 관계를 분석할 때, 낯선 사람의 신뢰도가 궁금할 때, 공익을 위한 일을 계획할 때 등등. 이 많은 경우에 한결같이 적용 가능한 도구가 있으니, 그것이 바로 게임이론이다. 게임이론은 사회과학의 모든 분야에 적용할 수 있는 강력한 분석 도구이다.”
이 책의 가치를 제일 먼저 간파한 집단은 다름 아닌 미국 군대였다. 전략가들의 눈에 『게임이론』이 핵무기 전략을 수립하는 지침서로 보였던 것이다. 그 후 캘리포니아 샌타모니카 해변에서 한 블록 거리에 위치한 RAND 연구소(RAND corporation)에는 최고의 두뇌들이 모여 글로벌 정책과 핵무기 전략을 수립하기 시작했고, 이들 중 상당수는 “상상할 수 없는 것을 생각하는” 게임이론 전문가들이었다.
<4편에서 계속>
