이스라엘 공군의 착각과 '평균으로의 회귀'
프롤로그 : 비행교관들의 기묘한 경험칙
부하 직원이 큰 성과를 냈을 때 칭찬해야 할까, 아니면 실수했을 때 호되게 꾸짖어야 할까. 인류 역사상 모든 조직의 리더와 교육자들이 끊임없이 직면해 온 오래된 딜레마입니다. 현대 경영학과 교육 심리학은 압도적으로 칭찬의 손을 들어줍니다. 긍정적 강화가 내재적 동기를 유발하고, 장기적인 행동 변화를 이끌어낸다는 점이 무수한 연구로 입증되었기 때문입니다.
그런데 살벌한 긴장감과 생존의 압박이 교차하는 군대, 혹은 치열한 기업 현장에서는 이런 이론이 종종 코웃음의 대상이 됩니다. 현장을 지휘하는 베테랑 관리자들은 자신의 뼈저린 실전 경험을 내세우며 이렇게 주장합니다. "칭찬은 사람을 나태하게 만들 뿐이고, 기강을 잡으려면 가혹한 질책만 한 것이 없다."
이 직관의 오류와 심리학적 진실이 가장 극적으로 충돌했던 현장이 있습니다. 1960년대 이스라엘 공군 비행 훈련장이었습니다. 하필 이스라엘인 이유가 있습니다. 이 나라가 처한 상황을 알면 교관들이 그토록 훈련 방식에 집착했던 배경이 이해됩니다.
1948년에 건국한 이스라엘은 남한의 5분의 1도 안 되는 좁은 땅에, 북쪽으로는 시리아, 동쪽으로는 요르단, 남쪽으로는 이집트라는 적대적인 아랍 국가들에 완전히 포위되어 있었습니다. 이미 1948년 건국 전쟁(1차 중동전쟁)과 1956년 수에즈 전쟁(2차 중동전쟁)을 치렀고, 이집트의 나세르 대통령은 소련의 군사 지원을 등에 업고 이스라엘을 지도에서 지워버리겠다며 공공연하게 칼을 갈고 있었습니다. 전선이 조금만 밀리면 수도 텔아비브가 함락되어 국토가 양분될 정도로 취약한 지형. 이 나라에게 공군력은 선택이 아니라 생존 그 자체였습니다.
1960년대 이스라엘 공군은 바로 이 절박한 환경에서 나라의 명운을 짊어진 최고 엘리트 집단이었습니다. 1967년 6일 전쟁(3차 중동전쟁)에서 이스라엘 공군이 개전 첫날 이집트 전투기 300대를 지상에서 파괴하며 전쟁의 승패를 결정짓게 되는데, 그 전설적인 작전을 수행할 조종사들이 바로 이 시기에 훈련받고 있었습니다. 단 한 번의 조종 실수가 파일럿의 목숨은 물론 국가 안보의 구멍으로 이어질 수 있었기에, 교관들은 성과를 극대화할 수 있는 훈련 방식에 혈안이 되어 있었습니다.
이 무렵, 훗날 행동경제학의 역사를 통째로 바꿔놓게 되는 한 젊은 심리학자가 이스라엘 군과 협력하고 있었습니다. 대니얼 카너먼(Daniel Kahneman). 이스라엘 태생의 이 심리학자는 2002년 노벨경제학상을 수상하게 되는데, 놀라운 점은 그가 경제학자가 아니라 심리학자라는 사실입니다. 심리학자가 노벨경제학상을 받았다는 것 자체가, 인간이 얼마나 비합리적인 존재인지를 역설적으로 증명하는 셈입니다.
카너먼은 동료 아모스 트버스키(Amos Tversky)와 함께 인간의 판단과 의사결정에서 나타나는 체계적 오류를 연구하여 행동경제학이라는 분야를 개척했습니다. 그 연구를 집대성한 저서 《생각에 관한 생각(Thinking, Fast and Slow)》은 전 세계에서 260만 부 이상 판매되며 뉴욕 타임스 베스트셀러에 올랐고, 후대의 학자들이 '행동경제학의 할아버지'라고 부를 만큼 영향력이 큰 인물입니다.
노벨상은 한참 먼 훗날의 이야기이고, 1960년대 당시 카너먼은 아직 젊은 교수였습니다. 그는 비행교관들을 모아놓고 인간 행동을 교정하고 훈련 성과를 촉진하는 심리학적 원리, 즉 '칭찬과 긍정적 강화의 힘'을 열정적으로 가르쳤습니다. 파일럿이 훌륭한 비행을 해냈을 때 적극적으로 칭찬하고 보상해야 긍정적인 행동이 강화되어 더 뛰어난 조종사로 성장할 수 있다고 역설했습니다.
훈련장의 반응은 싸늘했습니다. 하늘에서 수천 시간을 비행하며 생사를 넘나들었던 베테랑 교관들의 눈에, 책상물림 심리학자의 이론은 현실을 모르는 탁상공론으로 비쳤습니다. 참다못한 한 고참 교관이 손을 번쩍 들어 카너먼에게 정면으로 반론을 제기했습니다.
"고난도 기동을 깔끔하게 해낸 조종사를 칭찬하면 다음에 할 때 더 나빠지고, 제대로 해내지 못한 조종사를 야단치면 다음에 할 때 더 나아지는 경우가 많습니다. 칭찬으로 성과가 개선된다는 말씀은 동의하기 어렵습니다. 현실은 그 반대입니다."
교관의 말은 빈말이 아니었습니다. 훈련장에 있던 다른 모든 교관들이 매일같이 눈으로 목격한 '실증적 데이터'였습니다. 완벽한 루프 기동을 선보인 조종사의 어깨를 두드리며 극찬을 아끼지 않은 날이면, 이상하게도 그 조종사는 다음 비행에서 실수를 연발했습니다. 반면 형편없는 착륙을 한 조종사에게 불같이 화를 내며 기합을 주면, 다음 비행에서 훨씬 안정적인 성과를 보여주곤 했습니다.
이 기묘한 패턴이 매일 반복되자, 교관들의 머릿속에는 확고한 신념 하나가 뿌리를 내렸습니다.
'칭찬은 조종사를 자만하게 만들어 성과를 망치는 독(毒)이며, 엄격한 질책이야말로 정신력을 다잡아 성과를 끌어올리는 약(藥)이다.'
그래서 이스라엘 공군의 비행교관들은 훈련 성과가 어떠하든 기본적으로 조종사의 잘못만을 예리하게 지적하고 엄하게 꾸짖는 교육법을 당연한 진리처럼 채택하고 있었습니다. 칭찬은 절대 금물이라는 것이 그들의 불문율이었던 셈입니다.
교관들의 반론은 직관적이었고, 경험적이었으며, 무엇보다 현실에서 '작동'하는 것처럼 보였습니다. 하지만 카너먼은 이 맹렬한 반론 앞에서도 전혀 흔들리지 않았습니다. 오히려 교관들의 확신에 찬 판단 속에서, 우리 뇌가 일상적으로 저지르는 뿌리 깊은 착각의 증거를 발견해 냈습니다.
교관들의 관찰은 정확했습니다. 칭찬 뒤에 성적이 떨어지고 질책 뒤에 성적이 오른 것은 분명한 사실이었습니다. 그러나 그 관찰에서 끌어낸 결론이 빗나가 있었습니다. 과연 칭찬과 질책이 그 변화를 만들어낸 것이었을까. 카너먼의 대답은 '아니다'였습니다.
카너먼이 비행 훈련장에서 포착한 것은, 통계학의 냉정한 법칙이 인간의 직관에 걸어놓은 덫이었습니다. '평균으로의 회귀(Regression toward the mean)'라는 이름의, 무작위성이 빚어낸 거대한 착시. 교관들을 감쪽같이 속인 이 법칙의 정체는 무엇이며, 왜 수천 년간 리더들을 처벌과 공포 정치의 환상에 가두어 왔을까.
1장. 현상의 이면 — 통계적 착시, '평균으로의 회귀'
뛰어난 성과를 낸 부하 직원을 칭찬했더니 다음 분기에 성적이 떨어졌습니다. 큰 실수를 저지른 직원을 호되게 야단쳤더니 그다음에는 실적이 올랐습니다. 이 장면은 비단 이스라엘 공군 훈련장에서만 벌어지는 일이 아닙니다. 기업의 팀장 회의실에서, 학교 교무실에서, 자녀의 성적표를 마주한 가정의 거실에서 매일같이 반복되고 있습니다.
그렇다면 카너먼이 간파해 낸 '평균으로의 회귀'란 정확히 무엇일까.
주사위는 6이 나온 다음, 다시 6이 나올 의무가 없다
원리는 놀랍도록 명쾌합니다. 어떤 조종사의 평소 실력이 100점 만점에 70점짜리라고 가정해 봅시다. 이 조종사가 특정 비행에서 컨디션, 기상, 운 등의 복합적 요인이 절묘하게 맞아떨어져 95점이라는 예외적인 최고 성적을 기록했습니다. 교관은 당연히 이 조종사를 칭찬합니다. 그런데 다음 비행에서 이 조종사의 성적은 75점으로 떨어졌습니다. 교관의 눈에는 '칭찬했더니 나태해져서 성적이 떨어진 것'으로 보입니다.
하지만 통계학의 시선으로 보면 전혀 다른 그림이 펼쳐집니다. 95점은 이 조종사의 본래 평균 실력인 70점을 한참 뛰어넘는 이상치(outlier)였습니다. 주사위를 던져 6이 나왔다고 해서, 다음번에도 6이 나올 이유가 없는 것과 같습니다. 다음 비행에서 성적이 떨어진 것은 칭찬 때문이 아니라, 확률적으로 자기 본래의 평균치로 되돌아간 것일 뿐입니다.
반대의 경우도 마찬가지입니다. 같은 조종사가 어느 날 컨디션 난조로 45점이라는 최악의 성적을 기록했다고 해 봅시다. 교관은 불같이 화를 내며 기합을 줍니다. 그런데 다음 비행에서 성적이 65점으로 올라갔습니다. 교관은 '역시 혼을 내니까 정신을 차리는군' 하고 자신의 질책이 효과를 발휘했다고 확신합니다.
하지만 45점 역시 평균인 70점에서 크게 벗어난 이상치였을 뿐입니다. 교관이 질책하든, 격려하든, 아무 말도 하지 않든, 다음 비행에서는 자연스럽게 평균 근처로 되돌아올 확률이 압도적으로 높았습니다. 교관들은 확률적 통계의 자연스러운 오르내림을 '자신의 엄격한 질책이 효과를 발휘한 것'으로 철저하게 착각하고 있었던 셈입니다.
'평균으로의 회귀'가 작동하는 구조
한 걸음 더 들어가 봅시다. 인간의 수행 능력은 크게 두 가지 요소로 구성됩니다. 하나는 비교적 안정적인 '본래의 실력(true ability)', 다른 하나는 그때그때 달라지는 '무작위적 변동(random variation)'입니다. 컨디션, 날씨, 운, 심지어 전날 잠을 얼마나 잤는지까지, 성과에 영향을 주는 무작위적 요인은 무수히 많습니다.
어떤 사람이 극단적으로 높은 성과를 냈다면, 그날 무작위적 변동이 유리한 방향으로 크게 작용했을 가능성이 높습니다. 무작위적 변동은 말 그대로 '무작위'이기 때문에, 다음번에도 똑같이 유리한 방향으로 작용할 확률은 매우 낮습니다. 그래서 극단적 고성과 뒤에는 평균 쪽으로의 하락이, 극단적 저성과 뒤에는 평균 쪽으로의 상승이 뒤따르게 됩니다. 칭찬이나 질책과는 아무 상관이 없는, 수학적으로 피할 수 없는 현상입니다.
프로야구의 '2년 차 징크스'가 대표적입니다. 신인왕은 데뷔 시즌에 자신의 평균 실력을 훨씬 뛰어넘는 예외적인 성적을 기록했기에 수상한 것이지, 그 성적이 본래 실력은 아닙니다. 이듬해 성적이 떨어지는 것은 징크스가 아니라 본래의 평균 실력으로 돌아가는 자연 현상입니다. 그런데 팬들은 '올해 몸이 풀렸나 보다', '작년에 너무 뛰어서 지쳤나 보다' 같은 서사를 만들어냅니다. 비행교관들이 했던 착각과 판박이입니다.
'수탉이 울면 해가 뜬다' — 상관관계와 인과관계의 함정
그런데 여기서 한 가지 짚고 가야 할 것이 있습니다. 바로 '상관관계(Correlation)'와 '인과관계(Causation)'의 차이입니다. 이 둘을 혼동하는 것이야말로 비행교관들의 착각을 만들어낸 핵심 메커니즘이기 때문입니다.
상관관계란, 두 가지 현상이 함께 움직이는 경향을 말합니다. A가 일어나면 B도 따라서 일어나는 패턴이 관찰될 때, 'A와 B 사이에 상관관계가 있다'고 표현합니다. 반면 인과관계란, A가 실제로 B를 만들어냈다는 뜻입니다. 핵심은, 상관관계가 있다고 해서 반드시 인과관계가 있는 것은 아니라는 점입니다.
한 가지 예를 들어보겠습니다. 어느 연구에서 '아이스크림 판매량이 늘어나는 시기에 익사 사고도 늘어난다'는 통계가 발견되었습니다. 아이스크림 판매량과 익사 사고 사이에 뚜렷한 상관관계가 있었던 것입니다. 그렇다면 '아이스크림을 많이 먹으면 익사한다'고 결론 내려도 됩니까. 당연히 아닙니다. 둘 다 '여름이라 더워졌다'는 제3의 변수가 만들어낸 결과입니다. 더운 날에는 아이스크림도 많이 팔리고, 수영하러 가는 사람도 많아지니 익사 사고도 늘어나는 것이지, 아이스크림이 사람을 물에 빠뜨리는 것은 아닙니다.
또 하나. '수탉이 울면 해가 뜬다'는 관찰은 사실입니다. 매일 아침 수탉이 울고 나면 해가 뜹니다. 100% 반복됩니다. 상관관계는 완벽합니다. 하지만 수탉이 울었기 때문에 해가 뜨는 것은 아닙니다. 수탉이 목이 쉬어서 울지 못한 날에도 해는 여전히 뜹니다.
이스라엘 공군의 교관들이 빠진 함정이 정확히 이것입니다. '야단을 친 뒤에(A) 성적이 올랐다(B)'는 상관관계는 사실이었습니다. 매번 반복되었습니다. 그런데 교관들은 이것을 '야단이 성적을 올렸다'는 인과관계로 뒤바꿔 해석해 버렸습니다. 실제로 성적을 올린 것은 야단이 아니라, 극단적인 이상치가 평균으로 되돌아가는 통계적 필연이었는데 말입니다.
인간의 뇌는 이 두 가지를 구별하는 데 본질적으로 서투릅니다. 두 사건이 반복적으로 함께 일어나면, 뇌는 자동으로 앞의 사건이 뒤의 사건을 '만들어냈다'고 결론 내리도록 설계되어 있습니다. 진화의 관점에서 보면 이해가 됩니다. 덤불이 바스락거린 뒤에(A) 맹수가 나타났다면(B), '바스락거리는 소리는 맹수의 징조'라고 즉시 판단하고 도망치는 개체가 살아남았을 테니까. 하지만 현대 사회의 복잡한 상황에서는, 이 본능이 오히려 잘못된 판단을 만들어냅니다.
'칭찬의 저주'라는 교묘한 착시
이제 교관들의 착각이 왜 그토록 견고했는지가 보입니다. 교관이 칭찬을 하는 시점은 언제인가. 조종사가 예외적으로 뛰어난 성적을 냈을 때입니다. 그리고 뛰어난 성적 다음에는 평균으로 회귀하여 성적이 떨어지게 마련입니다. 그러니 교관의 경험에서는 '칭찬 → 성적 하락'이라는 패턴이 거의 100%에 가깝게 반복됩니다.
반대로 질책을 하는 시점은 조종사가 유독 형편없는 성적을 냈을 때입니다. 형편없는 성적 다음에는 역시 평균으로 회귀하여 성적이 오르게 마련입니다. 그래서 '질책 → 성적 상승'이라는 패턴도 거의 100%에 가깝게 반복됩니다.
상관관계가 100%에 가깝게 반복되니, 교관들의 뇌는 이것을 인과관계로 받아들일 수밖에 없었습니다. '칭찬은 성과를 망치고, 처벌은 성과를 살린다'는 강철같은 확신이 구축된 것입니다. 아이스크림이 익사를 유발한다고 믿는 것이나, 수탉이 해를 뜨게 한다고 믿는 것이나, 교관들이 질책이 성과를 올린다고 믿는 것이나 — 구조적으로는 전부 같은 오류입니다. 다만 교관들의 경우에는 매일 반복되는 경험이 이 잘못된 믿음을 철벽처럼 강화해 주었다는 것이 문제였습니다.
▶ 교관들이 놓친 것, 그리고 리더들이 반복하는 것
핵심을 추리면 이렇습니다. 교관들은 현상 자체는 정확하게 관찰했습니다. 그러나 그 현상의 원인을 해석하는 과정에서 통계적 필연을 자신의 개입 효과로 뒤바꿔 버렸습니다. 칭찬이나 질책이 없었어도, 극단적 성과 뒤에는 평균으로의 회귀가 일어났을 것입니다. 교관의 반응은 원인이 아니라, 타이밍상 겹쳐진 우연이었을 뿐입니다.
이 착각이 위험한 이유는 한 번 형성되면 스스로를 강화한다는 데 있습니다. 질책 후 성과가 오르는 경험이 반복될수록 리더는 자신의 엄격함에 더 큰 자신감을 갖게 되고, 칭찬 후 성과가 떨어지는 경험이 반복될수록 칭찬에 대한 불신이 깊어집니다. 마치 도박에서 한 번 딴 사람이 '나는 운이 좋은 사람'이라는 착각에 빠져 판돈을 계속 올리는 것과 비슷합니다.
비행교관만의 문제가 아닙니다. 기업의 경영자, 국가의 통치자, 자녀를 키우는 부모까지, 성과의 오르내림에 일희일비하는 모든 리더가 같은 함정에 빠질 수 있습니다. 그렇다면 이 통계적 착시는 왜 그토록 많은 리더를 '통제의 환상'에 중독시키는 것일까요.
2장. 리더의 함정 — '무작위적 오류'와 통제력 착각
이스라엘 공군의 사례를 기업과 국가라는 더 넓은 무대로 옮겨 봅시다. 비행교관들의 착각이 조직의 리더에게서 재현되면 어떤 일이 벌어질까. 왜 숱한 리더들이 가혹한 처벌과 일벌백계(一罰百戒)에 중독되어 왔는지, 그 메커니즘이 한층 선명해집니다.
세상은 당신이 통제할 수 있는 곳이 아니다
대다수의 사람은 세상이나 운명을 어느 정도 통제할 수 있다고 믿습니다. 무작위적으로 발생하는 사건의 결과를 자신이 예측하거나 조종할 수 있다는 착각, 이것을 심리학에서는 '통제력 착각(Illusion of Control)'이라 부릅니다.
카지노에서 주사위를 던질 때 큰 숫자가 필요하면 힘껏 던지고, 작은 숫자가 필요하면 살살 던지는 사람을 본 적이 있을 것입니다. 주사위의 결과는 던지는 힘과 아무 상관이 없지만, 인간의 뇌는 자신의 행동이 결과에 영향을 미쳤다고 자동으로 해석합니다. 조직의 리더도 같은 착각에 빠집니다.
팀 성과가 바닥을 쳤을 때 리더가 불같이 화를 내며 담당자를 가혹하게 질책했습니다. 그런데 다음 분기에 성과가 반등했습니다. 최악의 밑바닥을 찍었으니 자연스럽게 평균으로 회귀한 것인데, 리더의 뇌는 "역시 내 카리스마와 엄격한 통제가 기강을 바로잡았다"라고 인과관계를 거꾸로 해석합니다. 여기서도 상관관계와 인과관계의 혼동이 어김없이 등장합니다.
이 경험이 몇 차례 반복되면, 리더의 머릿속에는 '칭찬과 관용은 조직을 병들게 하고, 처벌과 통제만이 성과를 끌어올린다'는 철벽 같은 확신이 자리 잡습니다. 처벌의 강도는 점점 더 높아지고, 악순환이 시작됩니다.
'무작위적 오류'를 무시하는 리더의 최후
여기서 핵심 개념 하나를 짚어야 합니다. 바로 '무작위적 오류(Random Error)'입니다. 조직의 성과에는 리더의 의사결정이나 구성원의 역량 같은 체계적 요인도 있지만, 예측 불가능한 외부 환경 변수, 타이밍, 순전한 운 같은 무작위적 요인도 상당 부분을 차지합니다.
분기별 매출 그래프가 올랐다 내렸다 하는 것 중 상당 부분은 이 무작위적 오류의 산물입니다. 경기 변동, 경쟁사의 갑작스러운 전략 변경, 환율, 날씨, 심지어 결정권자의 컨디션까지 — 리더가 통제할 수 없는 변수들이 성과에 미치는 영향은 우리의 직관보다 훨씬 큽니다.
그런데 무작위적 오류의 존재를 인정하기란 쉽지 않습니다. '조직의 성과가 내 능력이나 노력과 무관하게 출렁일 수 있다'는 사실을 받아들이는 것은, 리더의 자존심에 정면으로 충돌하기 때문입니다. 솔직히 "이번 분기 실적 상승은 제 능력이 아니라 운이었습니다"라고 말할 수 있는 CEO가 세상에 몇이나 되겠습니까. 그래서 많은 리더들은 무의식적으로 무작위적 변동까지 자신의 통제 영역 안에 집어넣고, 성과가 올랐을 때는 자신의 공으로, 떨어졌을 때는 부하의 탓으로 돌리는 비대칭적 해석에 빠집니다.
처벌의 즉각적인 착시 효과
이 착각이 조직에 미치는 영향은 생각보다 큽니다. 일종의 중독 현상이 벌어지기 때문입니다.
조직에 심각한 문제가 발생했을 때 리더가 책임자를 가혹하게 처벌하면, 그다음에는 대부분 상황이 나아지는 것처럼 보입니다. 밑바닥을 쳤으니 평균으로 회귀하는 것뿐인데, 리더는 이것을 자기 행동의 결과로 해석합니다. 한 번 이 '맛'을 들이면 빠져나오기 어렵습니다. 처벌할 때마다 성과가 반등하는 것처럼 보이니, 처벌의 강도는 점점 올라갈 수밖에 없습니다.
역사 속의 적잖은 폭군들이 바로 이 메커니즘으로 만들어졌습니다. 초기에는 비교적 온건했던 통치자가, '엄벌 → 상황 개선(착시)'이라는 패턴을 반복 경험하면서 점점 더 잔인해지는 과정입니다. 처벌의 강도를 높일수록 더 극적인 '반등 착시'를 경험하고, 이것이 다시 처벌에 대한 확신을 강화합니다. 끝없는 점진적 격화의 고리. 통계적 착시가 만들어낸 이 악순환이, 인류 역사상 숱한 공포 정치를 탄생시킨 심리적 뿌리였습니다.
▶ 현장의 경험은 왜 과학을 이기는 것처럼 보이는가
이스라엘 공군의 교관들이 카너먼의 이론을 코웃음 쳤던 이유, 그리고 오늘날에도 현장 관리자들이 '경험에서 우러나온 직관'을 과학적 데이터보다 맹신하는 이유가 바로 여기에 있습니다. 평균으로의 회귀는 모든 개별 사례에서 한쪽 방향으로만 관찰되기 때문입니다.
칭찬하는 시점은 언제나 고성과 직후이고, 고성과 직후에는 언제나 성적이 떨어집니다. 질책하는 시점은 언제나 저성과 직후이고, 저성과 직후에는 언제나 성적이 오릅니다. 이 패턴이 단 한 번의 예외도 없이 반복되니, 현장의 경험은 압도적으로 '처벌이 효과적'이라는 결론을 지지하는 것처럼 보입니다. 논문 백 편보다 내 눈으로 본 현실이 더 설득력 있는 법이니까 말입니다.
통제력 착각과 인과적 착각이 결합하면, 리더는 통계적 노이즈에 지나지 않는 성과의 등락을 자신의 리더십 효과로 해석하며, 갈수록 처벌에 의존하는 관리 스타일을 굳히게 됩니다. 이런 리더가 이끄는 조직은 겉으로는 기강이 잡혀 보이지만, 안에서는 아무도 새로운 시도를 하지 않습니다. 실패가 곧 처벌이니까!
그렇다면 이렇게 반문할 수 있습니다. "통계적 착시라는 건 알겠는데, 그래도 처벌이 어느 정도는 효과가 있지 않느냐"고 말입니다. 행동심리학은 이 물음에 대해서도 불편한 진실을 제시합니다.
3장. 행동심리학의 경고 — 처벌의 치명적인 한계
조직의 리더와 국가의 통치자들은 종종 이런 유혹에 빠집니다. "문제가 생기면 책임자를 강하게 벌하라. 그것이 가장 빠르고 확실한 해결책이다." 규율을 어긴 자를 가혹하게 벌하면 조직의 기강이 바로잡히고 성과가 개선될 것이라는 믿음입니다. 얼핏 들으면 그럴듯합니다.
그러나 행동주의 심리학, 범죄심리학, 행동경제학의 연구 결과는 이 믿음에 찬물을 끼얹습니다. 처벌은 인간의 행동을 근본적으로 변화시킬 수 없을 뿐더러, 잘못 사용하면 조직의 도덕성과 시스템을 돌이킬 수 없이 망가뜨립니다.
1. 스키너의 경고 : 처벌은 '회피하는 요령'만 가르친다
'당근과 채찍' 중 뭐가 더 효과적인지를 평생 연구한 심리학자가 있습니다. B.F. 스키너(Skinner)입니다. 쥐와 비둘기를 상자에 넣고 보상과 처벌의 효과를 집요하게 관찰한 사람인데, 그가 내린 결론은 처벌에 대해 매우 비관적이었습니다. 스키너에 따르면, 처벌의 효과는 행동의 일시적 억압에 그치며, 전체 반응수의 감소로 이어지지 않습니다. 벌은 특정 행동을 잠시 멈추게 할 수는 있어도, 영구적인 변화를 만들어내지는 못한다는 뜻입니다.
여기서 진짜 문제가 드러납니다. 벌을 받는 사람은 자신의 행동이 왜 잘못되었는지를 성찰하고 수정하는 법을 배우는 것이 아니라, 오직 '당장 눈앞의 벌을 피하는 요령'만을 학습하게 됩니다. 상사가 보는 앞에서는 규정을 따르지만, 감시의 눈이 사라지는 순간 이전의 행동으로 곧장 되돌아갑니다. 직장인이라면 누구나 한 번쯤 경험해 본 장면일 것입니다. 상사가 자리를 비우면 사무실 분위기가 확 달라지는 그 현상 말입니다.
형사사법 제도가 이 한계를 고스란히 보여줍니다. 학습심리학에서 벌이 효과를 발휘하기 위한 절대적 전제조건은 '행위 바로 뒤에 즉각적으로' 벌이 주어져야 한다는 것입니다. 그런데 현실의 사법 절차는 범행과 처벌 사이에 수개월, 때로는 수년의 시간적 격차를 만들어냅니다. 벌을 받는 사람은 자신이 왜 벌을 받는지 그 인과관계를 체감하지 못하고, 처벌의 효과는 크게 감소합니다.
더 나아가, 교도소에 수감된 범죄자들은 반성 대신 비슷한 불만을 품은 동료 범죄자들과 교류하며 '사회적 촉진(Social Facilitation)' 현상을 겪게 됩니다. 긍정적인 행동 수정 대신 사회에 대한 원한이 증폭되고, 오히려 더 교묘한 범행 수법을 배워 나오는 역효과가 발생합니다. 억압과 처벌만으로 조직을 통제하려 들면, 구성원들은 규칙을 존중하는 대신 감시자의 눈을 피해 법망을 빠져나가는 '영리한 범법자'로 변모하고 맙니다.
2. 벌금의 역설 : 3달러가 도덕성을 파괴한 날
처벌의 한계는 금전적인 처벌, 즉 벌금을 적용할 때 더욱 충격적인 형태로 나타납니다. 행동경제학의 명저 《괴짜 경제학(Freakonomics)》에 등장하는 이스라엘 어린이집 실험은 이 역설을 적나라하게 보여줍니다.
이스라엘의 한 어린이집에서 아이를 데려가는 시간을 어기고 지각하는 부모들 때문에 교사들이 골치를 앓고 있었습니다. 경제학자들은 이 문제를 해결하기 위해 지각하는 부모에게 3달러의 벌금을 부과하는 제도를 도입했습니다. 처벌이 생겼으니 지각이 줄어들어야 마땅했습니다.
결과는 정반대였습니다. 벌금을 부과하자 오히려 지각하는 부모의 수가 폭발적으로 늘어난 것입니다.
원인은 '도덕적 인센티브'가 '경제적 인센티브(처벌)'로 대체된 데 있었습니다. 벌금이 생기기 전, 부모들은 교사들에게 폐를 끼친다는 죄책감, 즉 도덕적 규범의 압력을 느끼고 있었습니다. 그런데 3달러라는 벌금이 매겨지자, 부모들은 그것을 합당한 '연장 보육 서비스 요금'으로 인식하기 시작했습니다. 죄책감을 느낄 필요 없이, 돈을 지불하고 지각이라는 권리를 떳떳하게 구매해 버린 것입니다. 어찌 보면 합리적인 소비자의 선택이었습니다.
더 섬뜩한 것은 그다음에 벌어진 일입니다. 부작용을 깨달은 경제학자들이 벌금 제도를 전면 중단했음에도, 지각하는 부모의 수가 줄어들지 않았습니다. 한번 시장의 논리가 개입하여 도덕적 죄책감이 사라지고 나자, 벌금이 없어져도 부모들은 더 이상 양심의 가책을 느끼지 않았습니다. 처벌이 만들어 놓은 상처는 제도를 철폐한 뒤에도 치유되지 않았습니다.
이 실험이 리더들에게 전하는 교훈은 명확합니다. 조직을 통제하기 위해 어설픈 처벌 규정을 함부로 도입하면, 구성원들이 자발적으로 지키던 도덕적 규범과 책임감을 완전히 파괴해 버릴 수 있습니다. 인간관계와 도의(道義)로 움직이던 세계에 얄팍한 가격표를 붙이는 순간, 한 번 파괴된 자발적 헌신은 다시 회복되기 어렵습니다.
3. 엄벌주의의 환상 : 가혹한 처벌이 더 큰 범죄를 잉태한다
"형벌의 수위를 극단적으로 높이면 사람들은 공포에 질려 절대 범죄를 저지르지 않을 것이다." 오늘날에도 적잖은 정치인과 대중이 열광하는 엄벌주의의 핵심 논리입니다. 경제학적 분석과 역사적 사실은 이것 역시 환상임을 보여줍니다.
극단적 처벌이 범죄 억제력을 갖지 못하는 첫 번째 이유는 확률적 현실성입니다. 미국 뉴욕주는 1995년 사형제도를 부활시켰지만 실제 집행률은 2%에 그쳤습니다. 흑인 갱단 조직원이 길거리에서 총에 맞아 죽을 확률(7%)보다도 훨씬 낮은 수치입니다. 길거리의 삶이 감옥의 사형선고보다 더 위험한 상황에서, 사형이라는 극단적 위협은 범죄자의 행동 계산에 실질적 영향을 미치지 못합니다.
더 큰 문제는, 가혹한 처벌이 조직 내부에 연쇄적인 부작용을 일으킨다는 점입니다. 아주 작은 죄에 대해서도 융통성 없이 극형에 처하게 되면, 적발될 위기에 처한 사람들은 살아남기 위해 서로 결탁하여 처벌을 은폐하려는 '더 큰 집단 범죄'를 유발하게 됩니다. 자신이 부당하게 가혹한 처벌을 당한다고 느끼는 사람들은 일탈 행위를 정당화하며 가장 강력하게 결속하기 때문입니다.
1,300년 전 당나라 태종(太宗) 시대의 명저 《정관정요(貞觀政要)》에서도 이 한계를 날카롭게 지적합니다. 당시 신하들은 태종에게 "사소한 잘못까지 극단적으로 처벌하고 법망을 촘촘히 엮으면, 관료들은 다른 사람을 위험에 빠뜨리고 자기 자신의 안전만을 도모하게 됩니다. 도덕 정신은 사라지고 각박한 기풍이 무성해지며, 아래에서는 갖가지 속임수가 창궐할 것입니다"라고 간언했습니다. 1,300년 전의 조언이 오늘날에도 유효하다는 것이 씁쓸하면서도 의미심장합니다.
조직이 정당하고 공정하게 운영되며 신뢰를 얻고 있다면, 극단적인 일벌백계는 애초에 필요하지 않습니다. 상급자가 시스템의 실패를 반성하지 않고 오직 책임을 모면하기 위해 부하들에게 비합리적인 처벌을 남발하면, 조직 전체에 심각한 부조리만 남기게 될 뿐입니다.
4. 부메랑 효과와 보상의 역설
인간을 강제적으로 억압하려는 시도는 심리적 저항인 '부메랑 효과(Boomerang Effect)'를 낳습니다. 억지로 공부하라고 야단치고 윽박지르는 부모 밑에서 자녀가 엇나가듯, 힘과 공포로 통제하려 들면 오히려 반발심과 일탈만 촉발됩니다.
그렇다면 벌 대신 모든 긍정적 행동에 기계적으로 물질적 보상을 주면 되지 않겠느냐는 반론이 나올 수 있습니다. 알피 콘(Alfie Kohn)은 《상으로 주는 벌(Punished by Rewards)》에서 무분별한 보상 시스템의 맹점을 고발합니다. 정부와 기업이 모범 사원에게 보너스를, 모범 수감자에게 특별 혜택을 남발했지만, 보상 프로그램 역시 장기적인 행동 변화를 이끌어내지 못했습니다. 오히려 사람들의 본질적 동기를 심각하게 훼손하는 부작용이 나타났습니다.
이른바 '과잉 정당화 효과(Overjustification Effect)'입니다. 스스로 흥미와 도덕적 책임감을 느끼고 자발적으로 행동하던 사람에게, 불필요한 물질적 보상을 주게 되면, 그 사람은 점차 '보상을 받기 위해' 행동하는 것으로 인식이 변질됩니다. 외부적 보상이 끊기는 순간, 그 훌륭했던 행동마저 함께 멈춰 버립니다. 재미있어서 하던 일이, 돈을 받기 시작한 뒤로는 돈 없이는 하기 싫어지는 것과 같은 이치입니다.
▶ 처벌도, 보상도, 답이 아니다
행동심리학이 내놓는 결론은 불편하지만 분명합니다. 처벌은 행동을 일시적으로 억압할 뿐 근본적으로 변화시키지 못하며, 어설픈 보상은 내면의 동기를 부식시킵니다.
그렇다면 리더는 도대체 무엇에 의존해야 할까요? 성과의 부침에 일희일비하지 않으면서, 구성원의 행동을 긍정적인 방향으로 이끌 수 있는 리더십의 본질은 무엇일까요?
일희일비하지 않는 리더의 조건
지금까지의 이야기를 되짚어 보면, 이스라엘 공군 교관들의 착각에서 시작해 통제력 착각, 처벌의 한계, 보상의 역설까지 꽤 넓은 범위를 돌아왔습니다.
그렇다면 리더에게 필요한 태도는 무엇인가. 거창한 답을 기대했다면 실망할 수도 있습니다. 의외로 평범한 이야기이기 때문입니다.
확률적 사고를 받아들여라
불확실성이 지배하는 세계에서 단기적인 성과 하락이나 일시적인 실수는 필연적으로 발생합니다. 《손자병법(孫子兵法)》 화공(火攻) 편은 이렇게 경고합니다. "임금이 화가 났다고 해서 군대를 일으키면 안 되고, 장수가 화가 났다고 해서 싸움을 해서는 안 된다." 2,500년 전 손자도 알고 있었습니다. 분노는 판단력의 적이라는 것을.
한 번의 실패로 부하를 무능하다고 낙인찍지 않는 것. 반대로 한 번의 대성공에 천재가 탄생했다고 자만하지 않는 것. 이 당연한 것을 실천하기가 생각보다 어렵습니다.
실패를 은폐의 대상이 아니라 학습의 재료로 만들어라
직원이 실패로 좌절에 빠져 있을 때, 리더가 그를 더 크게 꾸짖으면 그 직원은 자신감을 완전히 잃어버립니다. 다시는 창의적인 도전을 하지 않고, 상사의 눈치만 보며 "예"라고만 대답하는 사람이 됩니다. 조직에 예스맨이 넘쳐나기 시작하면, 그 조직은 이미 처벌 중독의 후유증을 앓고 있는 것입니다.
리더가 실패의 책임을 묻고 희생양을 찾는 데만 몰두하면 조직은 경직됩니다. 반면 "무엇을 개선해야 하는가"라는 시스템적 원인 분석에 집중하면, 실패는 조직의 학습 자산이 됩니다.
시간을 알려주지 말고 '시계'를 만들어라
짐 콜린스는 《성공하는 기업들의 8가지 습관(Built to Last)》에서 진정한 리더십이란 "시간을 알려주는 것이 아니라 시계를 만드는 것"이라고 했습니다. 매번 정답을 알려주며 부하의 일거수일투족을 감시하는 리더는, 자기가 없으면 돌아가지 않는 조직을 만들 뿐입니다. 리더가 자리를 비워도 구성원 스스로가 높은 기준을 향해 움직이는 시스템과 문화를 구축하는 것. 그것이 당근과 채찍 너머에 있는 리더십입니다.
신뢰가 '평균' 자체를 끌어올린다
처벌은 일시적으로 행동을 억압할 수는 있어도 자발적인 헌신을 끌어내지는 못합니다. 사람은 혼날까 봐 움직이는 것과 믿어주니까 움직이는 것이 전혀 다릅니다. 리더가 진심으로 직원을 신뢰하고 기대를 건네면, 직원들은 처벌의 두려움이 아니라 그 신뢰에 보답하고 싶은 마음 때문에 자신의 한계를 뛰어넘습니다.
이스라엘 공군의 조종사들이 가진 원래 평균 실력이 50이었다면, 처벌을 받은 조종사는 잠시 30으로 떨어졌다가 다시 50으로 회귀할 뿐입니다. 하지만 리더가 긍정적인 기대와 흔들림 없는 신뢰를 부여하면, 조종사의 평균 실력 자체가 50에서 70으로, 70에서 90으로 서서히 올라갑니다. 평균으로의 회귀가 수면 위아래를 오가는 파도라면, 신뢰는 그 수면의 높이 자체를 끌어올리는 조류(潮流)입니다.
에필로그 : 약은 처음부터 교관의 손에 없었다
1960년대 이스라엘 공군 비행 훈련장. 베테랑 교관들은 하늘에서 수천 시간을 비행하며 쌓아 올린 경험의 무게로, 심리학자 카너먼의 이론을 일축했습니다. 칭찬은 독이고, 처벌은 약이라고. 그들의 눈에 비친 현상은 분명 사실이었습니다. 그러나 그 현상의 원인은, 통계라는 냉정한 법칙이 인간의 직관에 걸어놓은 오래된 덫이었습니다.
이 착각은 비행 훈련장 안에서 멈추지 않았습니다. 역사 속의 폭군들이, 기업의 독재적 경영자들이, 그리고 오늘도 성적표 앞에서 자녀를 윽박지르는 부모들이, 같은 착시에 속아 처벌의 강도를 높여 왔습니다.
그리고 처벌이 빚어낸 것은 성과 개선이 아니었습니다. 감시를 피해 교묘하게 눈속임하는 법을 배운 조직원들, 도덕적 책임감이 거래의 논리로 대체된 공동체, 은폐와 결탁이 지배하는 조직이었습니다.
이스라엘 공군의 교관들은 처벌이 약이라 믿었습니다. 그러나 카너먼이 밝혀낸 진실은 정반대였습니다. 약은 처음부터 교관들의 손에 있지 않았습니다. 그것은 조종사 자신의 내면에, 그리고 그 내면을 깨우는 신뢰 안에 있었습니다.