brunch

매거진 물고기가 뛴다

라이킷 10 댓글 4

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by 에코타운 Jun 15. 2016

게임이론과 죄수의 딜레마

신뢰의 문제

죄수의 딜레마, 우리 사회에서 갈등이 생길 때마다 인용되는 약방의 감초이다. 특히나 노사(勞使) 간의 갈등에서 노노(勞勞) 간의 갈등, 지역 현안에서 주민들 간의 갈등 등 큰 권력과 맞서는 상황이 발생하면 어김없이 이런 용어가 등장한다. 그리고 강철대오와 탄탄한 결속력을 유지할 것 같던 지역 주민, 회사 동료, 동업자 사이에서는 너무나 쉽게 서로를 불신하는 갈등 상황에 빠져든다.

역으로, 힘이 있는 쪽, 즉 갈등 관계를 이용할 수 있는 쪽에서는 다수의 이해관계자를 상대할 때 죄수의 딜레마와 유사한 상황을 만드는 전략을 취함으로써 이득을 얻는다. 죄수의 입장에 있는 사람들은 알면서도 당하고 모르면서 또 당한다. 그래서 딜레마라 불린다. 근본적으로 이 딜레마는 취약한 신뢰 고리를 파고든다.

그렇지만 우리가 신뢰를 논할 때 죄수의 딜레마(Prisoner's Dilemma)는 딱히 적당한 것은 아니다. 신뢰란 선한 행위에 적용되는 단어이기 때문이다. 그리고 이 딜레마를 사회적 신뢰 비용을 추정하는데 까지 사용하는 것은 좀 오버라는 생각이 든다. 그렇지만 그런 부분을 제외한다면 이 죄수의 딜레마만큼 갈등 관계에 놓인 사회현상들을 설명하는데 유용한 이론도 많지 않다.

게임이론(Game Theory)

죄수의 딜레마를 논하려면 먼저 게임 이론(Game Theory)에 대한 이해가 필요하다. 자유경쟁이 보장되는 경제구조에서 경제주체들이 독립적이고 합리적인 판단, 즉 자신의 이익을 극대화하는 전략 - 효율 극대화, 이윤추구 - 을 채택할 것이라는 가정에는 무리가 없어 보인다. 사실 이 가정이 주류 경제학이 기반을 두고 있는 토대이다.

하지만 게임적인 상황, 즉 자신의 결정이 다른 사람의 결정에 따라 영향을 받는 상호 연관된 시장에서는 이윤 극대화라는 전략이 자신에게 유리하지 않은 상황이 되기도 한다. 즉, 완전경쟁시장에서는 한 경제주체의 결정이 다른 경제주체에 미치는 영향이 작았지만, 상호의존적이고 독과점적인 상황에서는 오히려 피해로 나타날 수 있다.

예를 들면, 동네 빵집이 두 개(A, B) 있을 경우 A라는 가게에서 빵 가격을 크게 내려 박리다매 전략으로 나가면, B 가게는 필연적으로 큰 매출 감소가 불가피하다(품질은 비슷하다고 가정할 경우). 이 경우 B 가게가 할 수 있는 방법은 같이 가격을 내리는 방법 이외 다른 수단이 마땅치 않다. 이럴 경우 B가게도 가격을 내리게 되면 결국 빵 가격은 낮아지게 되고 A 빵집의 경쟁우위는 사라지게 된다. 이와 같이 한 경제주체의 결정은 다른 경제주체에게 영향을 미치게 된다.

게임이론은 이와 같이 상호 연관된 두 경제주체 - 완전 시장 경쟁체제에 있지 않은 - 간에 벌어지는 갈등관계, 즉 게임 관계에 있는 상황을 서술할 때 주로 사용된다. A 빵집에서 전략 - 가격을 낮춤으로써 시장점유율을 높여 가는 영업전략 - 은 그 자체로는 나쁘지 않지만, B 빵집 역이 가격을 낮춤으로써 오히려 더 불리한 시장 조건을 형성하는 위험을 가지게 된다. 즉, 독립된 경제주체로서 자신의 이익을 극대화하기 위한 최선의 선택, 즉 가장 합리적(Rationality) 선택이 오히려 자신의 이익을 침해하는 선택이 될 수 있는 위험이 있다.

‘죄수의 딜레마’는 게임 이론이 다루는 여러 상황 중 하나로 상호 연관된 경제주체들의 행동을 분석하는 데 활용된다. 예를 들어 담합이 본질적으로 어려운 이유와 사람들이 공공재 건설에 비협조적인 태도를 보이는 이유 등은 이 죄수의 딜레마라는 게임이론을 통해 비로소 이해할 수 있게 되는 것이다.

게임이론에서는 위와 같은 상황에서 가장 합리적인 선택을 하기 위해 필요한 수학적 분석모형을 제시한다. 영화 <뷰티플 마인드>에서 천재 수학자로 나오는 내슈(Nash)는 이 게임이론을 분석하는 수식모형을 제시하여 노벨경제학상을 받았다.

죄수의 딜레마(Prisoner's Dilemma)

먼저 죄수의 딜레마를 다루는 대부분의 글들이 인용하고 있는 예부터 시작해보자. 사실 이 부분이 핵심이므로 이 이야기를 빼고는 달리 설명할 방법이 마땅치 않기 때문이다.

어떤 범죄가 물적 증거는 없고 오직 범인의 자백에 의해서만 죄를 입증해야 하는 상황에서 범죄를 함께 저지른 것으로 의심되는 두 명의 용의자(A, B)가 검거되어 심문을 받게 되었다고 하자. 두 사람은 친구이기에 서로 의사를 교환할 수 없도록 따로 떨어진 곳에서 각자 심문을 받는다. 심문을 맡은 검사는 두 용의자에게 다음과 같은 동일한 제의를 한다.

“만약 당신이 범죄에 대해 부인을 하고 당신 친구가 자백한다면 당신은 10년형에 처해질 것이고 당신 친구는 협조를 하였기에 방면할 것이오. 그리고 당신과 당신 친구 모두가 자백한다면 5년형에 처해질 것이오. 반면 두 사람 모두 범죄를 부인하고 버틸 경우 두 사람은 과거 당신들이 저지른 범죄를 재수사하여 2년형에 처해지도록 만들겠소.”

서로가 의사소통을 할 수 없는 조건에서 받는 심문이기에 서로가 협조를 할 수 없는 상황이다. 두 용의자가 모두 범죄를 부인함으로써 각각 2년형을 언도받을 수도 있지만 두 용의자는 결국 모두 범죄를 자백하고 5년형을 언도받게 된다.

왜 두 용의자는 자백을 하여 더 적은 형을 살 수 있는 기회를 놓치는 것일까? 심문이 끝난 후 A는 B가 범죄를 부인한 경우와 자백할 경우에 자신은 어떻게 해야 하는가를 곰곰이 생각한다. 만약 B가 범죄를 부인한 경우를 보자. 이때 A가 부인을 한다면 2년형, 자백을 한다면 방면될 것이다. 따라서 A는 B가 부인할 것으로 예상할 경우 자백을 선택하는 것이 유리하다. 이제 B가 자백하는 경우를 보자. A가 부인을 한다면 10년형, 자백을 한다면 5년형에 처해진다. 이 경우도 A가 자백을 선택하는 것이 유리하다. 결국 A는 B가 범죄를 부인하거나 자백하는 것에 상관없이 자백을 선택하는 것이다. B의 경우도 마찬가지여서 A의 행동에 관계없이 자백을 선택한다.

두 사람이 같이 부인을 한다면 2년형을 살 수 있는 기회가 있지만 개인적으로 자백을 선택하는 것이 최선이므로 두 용의자 모두 자백을 한다. 이처럼 두 사람이 각자 합리적이라고 생각하고 취한 행동이 오히려 두 사람 모두에게 바람직하지 않은 결과를 가져오는 상황을 ‘죄수의 딜레마’라 한다.
- 웹사이트에서 재인용 -

- 위에 내용을 표로 정리하면....

쉽게 얘기해서, 서로가 독립적인 판단을 해야 되는 상황에서는 두 범죄자는 범죄를 부인함으로써 더 좋은 결과가 나온다는 것을 모두가 알고 있지만, 둘이 연관된 상황(공범)에서는 상대방이 범죄를 시인을 함으로써 상대방은 더 큰 혜택을 보게 되고 자신은 더 나쁜 결과를 가지게 될 것이라는 두려움을 가지게 된다. 이런 상황에서는 결국 범죄를 시인함으로써 최악을 면하는 선택, 최선과도 거리가 먼 5년형을 받는 선택을 하게 된다.

그럼 이 판단이 합리적일까? 두 피고인은 합리적인 선택을 한 것 일까? 그렇다고 하기는 어려울 것이다. 그러니 딜레마라는 용어가 붙여졌겠지만. 위의 표를 보면 어떤 경우에도 두 죄수는 범죄를 시인하는 쪽이 더 유리한 결과를 얻었다. 개인적인 관점에서는 범죄를 시인함으로써 더 바람직한 결과를 얻을 수 있지만, 그렇게 함으로써 모두가 부인했을 때보다는 더 나쁜 결과를 가지게 된다.

이런 현상을 학문적으로는 "우세의 원리 형태로 된 개인적 이성주의 (individual rationality)와 파레토(Pareto) 원리의 형태로 된 집단적 이성주의 (group rationality)의 불일치"라고 설명한다. 쉽게 말해서 개인들은 자신에게 가장 큰 이익을 주는 방향으로 합리적인 판단을 하게 되지만 결국에는 그들 각자에게 더 불행한 결과를 초래하게 되는 모순이 발생하는 것이다.

죄수의 딜레마를 알아야만 하는가?

사실 우리가 이런 경제용어까지 이해해야 할 필요가 있을까? 먼저 이런 의문이 드는 것도 사실이다. 하지만 이 용어가 경제학의 영역을 넘어서 사회적인 갈등관계를 설명하는데 유용하다는 것이 알려지면서 빈번하게 인용되고 있다는 것을 이해한다면 이 블로그의 긴 글을 읽는 수고 정도는 어쩔 수 없다는 데 동의할 것이다.

노동자들은 파업에서 노동자들 간 강한 결속력으로 단결되어 있으면 사측에 대한 더 강한 협상력으로 자신들에게 유리한 결과를 이끌어 낼 수 있다는 것을 알고 있다. 그렇지만, 대개는 사측의 회유(이익)와 협박(손실)에 쉽게 무너진다. 나보다 다른 동료가 먼저 사측에 넘어가는 상황이 발생하면 입게 되는 피해를 감내하기 어렵기 때문에 처음의 결기와는 다르게 파업의 지속성을 가지기 어렵다. 의리만 지키다가는 쪽박을 찬다는 피해의식이 이미 광범위하게 학습된 효과도 있을 것이다.

아파트 재개발 사업에서도 이러한 죄수의 딜레마를 발견할 수 있고, 또 정부에 대한 집회에서도 이런 현상을 쉽사리 관측하게 된다. 관리자 입장에 있는 사람들은 이러한 죄수의 딜레마를 적절하게 이용함으로써 직원들 간의 경쟁을 유발하는 전략을 쓸 수도 있다. 사실 수많은 조직에서 죄수의 딜레마가 폭넓게 사용되고 있음을 심심치 않게 목격하게 된다.

혹자는 이를 신뢰의 문제로 치부하기도 한다. 결국 동료나 같은 지역 주민들 간 신뢰 부족이 이러한 딜레마의 원인이라는 것이다. 죄수의 딜레마를 해결하기 위해 그럼 신뢰를 높이면 될 것인가? 물론 그렇다. 상대방이 자신의 손실을 감수하면서 까지 신뢰를 지킬 것이라는 확신이 있다면, 이 게임에서 모두가 승자가 될 수 있다. 하지만 이는 결코 쉽지 않은 문제이고, 결국 하나마나한 소리이다. 공부 열심히 하라는 부모님의 잔소리와 다를게 뭐 있을까.

신뢰의 문제에서는 결국 리더십의 문제로 귀결될 수밖에 없다. 자기희생적인 리더의 존재가 만능은 아니겠지만 이 보다 더 좋은 방법을 아직 보진 못했다. 죄수의 딜레마를 어떻게 극복할 것인가? 개인 간에도 조직 내에서도 여전히 풀리지 않는 숙제로 남아있다.

keyword