죄수의 딜레마

게임이론_이기적 선택의 함정

by 장순영

극단의 선택, 치킨게임 그리고 제로섬 게임의 이기심


한 밤중, 도로의 양편에 승용차 두 대가 마주 서서 헤드라이트를 켠다. 그러더니 곧바로 차를 돌진시킨다. 두 대의 차는 금세 정면충돌 직전에 이른다. 과연 두 대의 차는 그대로 충돌할 것인가.

이른바 치킨게임. 1950년 대 미국의 젊은 터프가이들 간에 유행하던 자동차 게임의 명칭이다. 핸들을 꺾지 않음으로써 앞차와의 충돌을 마다하지 않을 것인가, 아니면 상대의 차를 피해 목숨을 구할 것인가.

전자를 택하면 두 사람 모두 승자로서의 명예를 얻게 된다. 그러나 그 명예는 죽음 혹은 치명적인 중상과 맞바꾼 승리이다. 후자를 택해 목숨을 유지하면 불명예스러운 겁쟁이, 즉 치킨 chicken으로 취급당하게 된다.

서로 간에 어느 한쪽도 양보함이 없이 극단상황으로 치닫는 치킨게임이라는 이 용어는 동서 간 이데올로기가 팽배할 무렵인 1950년대부터 1970년대에 걸쳐 미국과 소련의 군비軍備 경쟁 등 지구 상의 헤게모니 장악을 위한 극심한 군사경쟁 상황을 꼬집으며 국제정치학 용어로 굳어졌다.

오늘날에 있어서도 정치뿐 아니라 경제 강국 혹은 대기업의 독점적 우위를 점하려는 이기적 경제행보 등 극단적 경쟁으로 치닫는 상황을 비유할 때도 치킨게임이라는 용어는 종종 인용되고 있다.

요즈음, 서로의 협력관계를 통해 상호 간 실리實利를 도모한다고 할 때 윈윈 win-win이라는 말을 많이 쓴다. 이와 크게 대별되는 용어 중에 제로섬 게임 zero sum game이 있다. 영합 게임이라고도 일컫는 이 용어는 게임에 참가한 이들의 이익과 손실을 모두 합하게 되면 그 합이 반드시 ‘0’zero이 되는 게임이다.

최근 들어 해외 원정도박으로 재산을 탕진했다거나 인터넷 도박으로 물의를 일으키는 유명인들이 종종 화두에 오르고 있다. 고스톱이나 포커게임 등은 누군가가 따면 반드시 그만큼 잃은 사람이 있게 마련이다. 그들 간에 따거나 잃은 돈의 합은 거기 참가한 사람들의 주머니에서 나온 돈의 액수와 같다. 게임이 끝나면 돈을 딴 사람은 웃고, 잃은 사람은 울뿐이다.

경마장에서 나오는 사람들의 다양한 표정. 그들 중 일부는 희희낙락 웃고 있지만 그 웃음은 바로 옆 사람들의 자조적 한숨인 것이다.

주식 현물시장과 선물옵션시장에 이 이론을 대입해 보자.

주식 현물시장에서 현물 가격이 올라 그 현물에 투자한 주주가 이익을 얻더라도 이로 말미암아 다른 투자자가 꼭 손해를 보지는 않는다. 현물시장에서는 모든 참여자가 다 같이 이익을 얻을 수도 있는데 이는 거래대상이 실질가치를 지닌 현물이기 때문이다.

이와 달리 선물옵션시장은 제로섬 게임에 가깝다. 예컨대 투자자 중 누군가가 1억 원을 벌었다는 것은 또 다른 누군가가 1억 원을 잃었다는 것을 뜻한다.

선물옵션시장은 실질가치를 지닌 현물을 매매하는 곳이 아니라 선물지수나 특정 주식의 가격 등 추상적 지표를 거래하기 때문이다. 이 시장에 참여한 이들은 나름대로의 정보를 조합하여 장래 형성될 가격을 유추類推한다.

유추한 가격, 그 예상 투자이익을 위해 마치 도박하듯 돈을 거는 것이며 따라서 시장이 마감되면, 즉 게임이 끝나면 게임 참여자 간의 손익정산만이 남게 된다. 결국 win-lose게임, 승자와 패자가 극명하게 판가름 나는 게임. 그게 제로섬 게임이다.


‘내 뒷마당에서는 안 된다. not in my backyard.’


환경 정화를 위한 대안이 한쪽에 불합리를 야기하는 님비 NIMBY, 지역이기주의를 뜻하는 이 신조어 역시 제로섬 게임을 비유시킬 수 있을 것이며, 부동산 투기를 억제하고자 정책적으로 세제개편을 하면 어느 계층에서는 반발을 일으킨다. 이 또한 제로섬 게임을 연상시키게 된다.



공범들의 갈등, 당신이 공범 중의 한 사람이라면 과연 어떤 선택을 취하겠는가.


두 명의 공범이 수사관에게 취조를 당하고 있다. 수사관은 그 두 사람을 각각 다른 방에 앉혀놓고 제안한다.


“네가 죄를 자백하면 최대한 정상을 참작해 너를 징역 10년으로 감해 주겠다. 그러나 네가 자백하지 않고 네 동료가 자백해서 사실이 밝혀지면 넌 모든 죄를 뒤집어쓰고 20년의 징역형을 살게 될 것이다.”


계속해서 수사관의 말이 이어진다.


“너와 네 공범이 모두 자백을 하면 둘 다 10년을 살고 나오겠지만 모두 굳게 입을 다문다면 경찰은 너희 두 사람을 풀어줄 수밖에 없을 것이다. 너희들이 풀려나는 길은 둘 다 묵비권을 행사해 증거 불충분으로 유죄를 입증시키지 못하는 것이다.”


당신이 공범 중의 한 사람이라면 어떤 선택을 취하겠는가. 침묵한다면 그들은 둘 다 풀려난다. 그러나 두 사람은 각각 10년의 형을 받고 교도소에서 마주쳐 의리로 똘똘 뭉쳐 공범이 되었던 자신들의 의기투합을 씁쓸하게 곱씹고 만다.

상대를 불신했기에, 두 사람의 공범은 혹여 자신 혼자만이 20년의 최고형을 받을 것을 우려한다. 그래서 자신에게 돌아올 피해를 최소화하는 방안을 택한 것이다.

1950년대 과학자인 메릴 프러드와 멜빈 드레셔는 게임이론의 고전이 되는 모델을 고안했는데 바로 ‘죄수의 딜레마’ 론이다.

10년형의 길을 택한 공범들의 판단은 일견 비합리적인 것처럼 보일 수도 있지만 역설적으로 이들 공범의 선택은 합리적이다. 자신의 이익을 최대화시키려는데 있어서의 걸림돌, 서로 속임수를 쓸 가능성이 있는 이기적 경쟁자들 간에 일어나기 십상인 갈등을 연구한 것이 ‘죄수의 딜레마’ 론의 핵심이다.

이 딜레마 상황에서 최고의 선택은 상호협력을 통해 공동의 이익을 확보하는 것이지만 죄수의 딜레마에서 이것은 불가능하다. 두 사람의 공범은 상대가 선택한 결정이 어떤 건지 알 수가 없다.

수사관으로부터 똑같은 협상 제안을 받았다는 사실만 알고 갈등만 일으킬 뿐이다. 결국 상책은 의리를 지키는 게 아니라 변절하는 것, 자신을 희생하거나 상호 이익을 도모하기보다는 배반하는 쪽이 최상의 선택이라는 의외의 사실을 반증한다.

죄수의 딜레마는 수학적 구성물에서 출발했지만 살아가는 현실 문제에 다름 아니었다. 이 딜레마는 50년대 핵 확산 당시의 상황을 그대로 반영하며 치열했던 미소 간의 군사력 경쟁을 설명하기도 했지만 반드시 군사적 쟁점에만 한정되지 않고 이익의 갈등이 존재하는 곳 어디에서든 나타날 수 있는 현상임을 역설했다.



이기적이고도 이기적인 선택… 조국을 등지고 이민을 가고 싶은 이유가 거기에 있다.


게임이론game theory. 게임의 결과가 자신의 주관적 선택과 자신에게 주어진 기회뿐 아니라 함께 게임하는 다른 사람들의 선택에 의해 결정되는 경쟁상황을 분석하는 데 이용되는 수학이론이다.

게임은 거기 참가한 모든 경기자들의 선택에 달려 있기 때문에 각 경기자는 최선의 선택을 하기 위해 다른 경기자들이 선택할 수 있는 것을 예측하고자 한다.

이처럼 상호의존적인 전략을 어떻게 하면 합리적으로 추론해낼 수 있을까 하는 것이 게임이론의 주제이다.

수학자인 존 폰 노이만과 경제학자 오스카 몰건슈테른은 1944년,〈게임과 경제행동이론 Theory of Games and Economic Behavior〉을 출판하여 근대 게임이론을 창안했다. 이 책은 수학적 이론은 물론 경제학·정치학·군사과학·작전연구·사업·법·운동·생물학 및 기타 분야에 응용되어 각 분야에 있어서 전 세계적으로 급속한 발전을 이뤄냈다. 게임이론은 전략적 사고에 대한 평범한 대화를 폭넓고 세련되게 적용하는 데 지대한 영향을 주었던 것이다.

게임이론은 적용되는 모든 분야에 있어서, 게임 참가자들이 나쁜 결과 중에서도 더 나은 것을 선호한다는 게 공통이라는 면에서, 그들 모두 이성적이라고 가정한다. 또한 경기자들은 목표가 있으며, 결과에 순서를 매기거나 더 심하게는 결과에 효용 또는 가치를 부여한다고 가정한다.

퇴화된 1인 게임을 제외하고는 한 게임에서 다양하게 선택하는 상호의존성 때문에, 경기자가 곧바로 최상의 선택을 취하기 어렵다는 사실이 게임이론이 갖는 복합성이다. 여기에서 우리가 살고 또 존재하는 이 사회의 근본문제가 존재한다.

제로섬게임이 아니라면, 그리고 참여자가 다수라면 서로 협동하는 호혜적인 단합이 서로에게 좋은 결과를 가져오지만, 결국 개개인의 충만한 이기심 때문에 이러한 정正의 결과는 나오지 않고 모두에게 부負의 효과에 머물고 마는 일들이 비일비재하게 일어난다.

우리나라에서만 보더라도 대선이나 총선 등에 게임이론 상황을 근접시킬 수 있을 것이다. 선거가 끝난 후 과연 누가 이득을 보았는가? 당선자일까?

그들은 이미 서로를 비방하는 흑색선전으로 일관한데다 당선만을 위해 온갖 물리적 힘을 동원하는 통에 치유될 수 없는 상처를 입고 말았다. 자기 자신만의 이익을 극대화하기 위한 선택은 끝내 자신뿐 아니라 모두에게 마이너스 결과를 초래했다. 단합과 상호협조가 없었기 때문이다.

이기적이고도 이기적인 선택 때문에 모두가 다 함께 이익을 추구할 수 없는 상황. 그들이 조국을 등지고 이민을 가고 싶은 이유이기도 하다.

케이크를 놓고 다투는 두 아이, 입찰 현장에서의 건설업자들, 이들에게는 공통된 목표가 있다. 탐욕과 불신이 가득한 사회에서 이들이 원하는 목표는 딱 하나다. 자신의 이익을 극대화하는 것.

아이들은 조금이라도 더 많은 케이크를 차지하기 위해, 입찰 참여자들은 상대를 따돌리고 자신이 낙찰 받기 위해 행동한다. 그게 여의치 않으면 서슴없이 담합을 제안한다.

우리가 사는 현실은 이처럼 이기적 선택을 강요받게 되는 상황에 숱하게 부딪친다. 게임이론은 이러한 행위에 있어 공통의 규칙을 찾고 해법을 찾는 것을 목표로 한다.



게임이론이 이 세상 사람들 공동이익을 보장하는 진정한 합리점을 찾아줄 것인가


다시 말해 게임이론은 결과가 불확실한 상황에서 자신의 이익을 극대화하려는 선택적 전략을 연구한다. 여기에서 만나는 상대는 자신을 속이고 변절할 수 있다. 그러나 이들 행위자에게는 행동의 원칙이 있는데 바로 합리적이라는 것이다.

합리적이란 자신의 이익을 항상 계산한다는 의미이다. 게임의 무대인 이 사회는 논리적, 합리적 터전은 아니다. 비합리적인 공간에서 합리적인 선택을 추구하게끔 하는 곳이다.

수학자인 존 폰 노이만은 이익이 완전히 상반되는 행위자간의 게임에 항상 합리적인 행동의 원칙이 있다는 것을 수학적으로 증명했다. 이 증명을 노이만은 ‘최소최대정리minimax theorem’라고 명명했다.

노이만은 재차 강조한다. 우리가 숨 쉬는 이 세상에서 재앙이나 비극은 개인과 집단이 공동이익을 버리고 각자의 이익만을 추구하려는 경향 때문에 일어난다고.

노이만이 그의 이론을 통해 우리에게 말하고자 하는 것은 인류가 이러한 재앙과 비극을 회피할 수 있는 방법을 찾아야 한다는 것이다.

keyword
이전 07화악어의 눈물