인간 vs. 기계

우리 모두는 실수를 한다.
이것은 인간 본성의 발현이다.
우리가 하고 싶지 않아도 우리는 '인간'이기 때문에 실수를 할 수 밖에 없다.

학계에서는 인간의 합리성을 주창하지만, 일상생활에서 우리는 인간이기 때문에 어쩔 수 없이 저지르는 비합리적 행동들을 하게 된다. 예를 들어, ‘아, 나는 맥도날드가 몸에 정말 안 좋은 것을 알고 있어… 그런데 빅맥 솔직히 너무 맛있잖아?’ 혹은 ‘나는 담배가 몸에 정말 좋지 않고 담배를 계속 피우게 되면 분명히 폐암에 걸릴 거야… 그래도 담배가 없으면 현재의 헬조선을 버틸 자신이 없는데 미래가 대수겠어?’와 같은 사고와 행동들 말이다. 우리는 우리의 이러한 우매함과 비합리성 때문에 자주 전문가들의 고견과 충고를 따르려 한다. 왜냐면 우리가 생각하기에 전문가들은 수년간의 경험과 지식을 토대로 합리적이며 이성적인 판단과 결정을 할 것이라고 생각하기 때문이다. 그런데 과연 이러한 생각은 옳은 것일까? 전문가들은 항상 합리적이며 옳은 생각과 행동을 하는 것일까?
 
정답은 아이러니하게도 ‘아니다’이다.
전문가들이 편향에 치우지지 않는 의사 결정을 할 것이라는 생각은 틀린 것이며, 전문가들의 판단과 의사결정보다 매우 단순한 정량적 모델이 훨씬 더 좋은 성과를 보여준다는 것을 많은 연구들이 증명하고 있다.
왜 그럴까? 그 이유는 그들도 다름 아닌 인간이기 때문이다. 


# 우리는 어쩔 수 없는 인간이다
르네상스 테크놀로지의 제임스 사이먼스(James Simons)는 이러한 발언을 한 적이 있다.
"만약 당신이 펀더멘털에 근거한 트레이딩을 한다면, 어느 날 아침에는 당신 자신이 천재라고 느낄 것이지만 그 다음날에는 이와 반대로 자신이 굉장히 멍청하다고 느낄 것이다...(중략) 1998년에 나는 우리가 100% 모델에 기반한 결정을 해야 한다고 깨달았다...(중략) 우리는 노예처럼 그저 모델을 따라야 한다는 것이 나의 생각이다. 당신은 당신 자신이 얼마나 똑똑하거나 멍청하다고 느끼는 가에 상관없이 모델을 전적으로 믿고 따라야 한다. 만약 그렇게 한다면 당신은 매우 경이로운 성과를 얻게 될 것이다."

그가 이러한 주장을 하는 이유는 바로 우리, 즉 인간은 우리 자신의 뇌구조가 가지고 있는 선천적인 특성으로 인해 비논리적이며 비합리적인 생각과 행동을 할 수 밖에 없고, 이러한 특성이 각종 인지적 편향(Cognitive Bias)에 노출되게 하기 때문이다. 아래의 그림을 살펴보자.

A와 B 중 어느 부분이 더 어두운 색을 띄는가?

A와 B를 비교했을 때, 만약 당신이 정상적인 인간이라면 당연히 A의 색깔이 B의 색깔보다 어둡게 보일 것이다. 그러면 당신 자신에게 이러한 질문을 해보자.
“과연 A가 B보다 어둡다는 것에 대해 어느 정도의 베팅을 할 수 있는가? 5천원? 2만원? 아니면 10만원?”

우리는 이러한 질문을 인간에게 했을 때의 반응을 대충 예상해볼 수 있다. 그렇다면 같은 질문을 컴퓨터에게 했을 때 컴퓨터는 어떻게 반응을 할까? 컴퓨터는 우선 A와 B의 RGB 값을 계산하려고 할 것이다. 컴퓨터는 이렇게 판단을 할 것이다: “A의 RGB 값은 120-120-120이고, B의 RGB 값은 120-120-120이니까 둘의 색은 서로 같군! 그러니 위의 질문에 베팅을 절대로 하면 안 돼!”

컴퓨터가 이러한 결과를 도출한다고 해서 당신이 인지하는 색의 비교가 이전과 다른가? 그건 아닐 것이다. 왜냐하면 인간의 눈에는 아직까지도 A가 B보다 어둡게 보이기 때문이고, 그것은 인간이 정상적인 시력과 뇌를 가졌기 때문이다. 사실은 이러한 판단은 인간을 인간답게 만들어 주는 것이지만, 매우 슬픈 사실은 ‘컴퓨터가 맞았고, 우리의 인식은 틀렸다’는 것이다.

사실은 두 공간의 색이 같다.

인간의 인식 체계는 위의 예에서 제시된 인접한 공간들의 국소적 대비와 기둥에 의해 형성된 그림자에 의해 철저하게 농락을 당했다. 이 두 가지 조작들의 결합은 모든 인간의 사고에 굉장히 강력한 환각을 선사한다. 듀크 대학교의 심리학 교수인 Dan Ariely는 이러한 인간의 본질적 특성을 ‘매우 뻔히 보이는 비합리성’이라고 표현하고 있다.

이러한 위의 명제는 굉장히 공격적으로 들리며 인류의 이성을 옹호하는 많은 사람들에게 큰 반감을 느끼게 할 수 있다. 어쩌면 몇몇 사람들은 이렇게 생각할 수도 있다. '우리의 사고는 위의 경우처럼 어떤 특정한 조건 하에서만 결함을 보일 뿐이며, 단지 소수의 사람들만이 저런 함정에 빠질 것이다. 우리는 아직까지도 매우 완벽하게 이성적인 논리적인 생각들을 할 수 있다.' 그러나, 심리학 연구 결과들은 결론적으로 인간이 매우 좋지 않은 의사 결정을 하는 경향이 있고 이러한 결정들은 꽤 넓은 범주의 상황에서 빈번하게 일어난다는 것을 밝혀내었다.

그런데 그렇다면 과연 전문가들은 어떨까? 우리는 종종 전문가들이 수년간의 경험과 훈련에 의해서 인지적 편향이 치우치지 않는 합리적이고 논리적인 판단과 의사결정을 할 수 있다고 믿고 있다. 과연 이러한 믿음은 옳은 것일까?


# 전문가 vs. 모델
안타깝지만 학계의 여러 연구들을 통해 도출된 결과들은 이러한 생각이 틀렸다는 것을 보여주고 있다. 다양한 분야에서의 연구들과 이를 통한 증거들은 모델(알고리즘)에 의한 시스템적인 의사 결정이 전문가들의 자유재량을 통한 의사 결정보다 뛰어난 성과를 보인다는 것을 증명하고 있다.

1. 상습적 범죄와 가석방 결정에 대한 연구
이 연구는 학계와 펜실베니아 집행유예 및 가석방 위원회의 파트너십에 의해 진행이 되었다. 이 연구의 목적은 전문가 집단과 단순한 모델이 각각 어느 정도의 예측력을 보여주는지를 측정하고자 하는 것이었다. 상습적 범죄를 예측하는 데 있어서 전문가와 모델이 보여준 예측력의 차이는 굉장히 명약관화하였다. 단지 세 개의 예측 인자만 가지고 예측을 한 3-Factor Model이 전문가 집단보다 훨씬 나은 성과를 보였다. 이 연구를 통해 결국 펜실베니아 주정부 가석방 위원회는 수감자를 석방시키는 데 있어서 이 소프트웨어를 사용하기로 결정하였고, 이러한 결정은 알고리즘에 의한 결정이 의사 판단의 새로운 준거로써 작용을 하기 시작했다는 것을 알리는 신호탄이었다.

2. 전문가가 모델을 이용한다면?
위의 연구 결과는 모델이 인간을 이길 수 있다는 것을 보여주는 증거였다. 이러한 연구는 학계로 하여금 새로운 질문을 가지게 했는데, 그것은 바로 “전문가들이 모델을 이미 인지하고 이를 배운 상태에서는 모델 자체의 성과를 이길 수 있지 않을까?”였다.

D. Leli와 S. Filskov는 환자의 뇌 손상 정도를 분류하는 예측 실험에서 위의 질문을 테스트 해보기로 했다. 그들은 예측을 수행하는 집단을 다섯 가지로 분류하였고, 이는 1) 모델, 2) 전문가, 3) 비전문가의 기본적 수행 집단에 추가적으로 4) 모델+전문가, 5) 모델+비전문가를 포함한 방식이었다. 과연 이 다섯 가지의 분류 중 어느 것이 가장 좋은 예측력을 보여주었을까? 결과는 매우 놀라웠다!

위의 도표에서도 알 수 있다시피 가장 좋은 예측력을 보여준 것은 바로 알고리즘이었다. 그것도 심지어 83.3%의 정확도를 보여주었다. 굉장히 흥미로운 사실은 전문가의 예측력(58.3%)이 꼴찌였고, 이는 비전문가의 예측력(62.5%)보다도 못한 수준이었다. 전문가가 모델을 활용했을 때의 예측력은 75%로 상승하였으나, 이는 순전히 모델만을 사용했을 때의 성과보다는 좋지 않았다. 이는 결론적으로 모델이 성과 기준의 바닥이 아닌 천장이라는 것을 보여주는 흥미로운 결과였고, 결국 인간이 내리는 판단은 성과를 갉아먹는다는 것을 보여주는 연구였다. 그렇다면 과연 이러한 연구 방법을 금융시장에 적용하면 어떤 결과가 발생할까? 퀀트 투자의 대가 중 한 사람인 조엘 그린블라트(Joel Greenblatt)는 이러한 생각을 가지고 금융시장에서의 실험을 진행하게 된다.

3. 조엘 그린블라트의 마법공식
조엘 그린블라트는 『주식시장을 이기는 큰 비밀』, 『주식시장을 이기는 작은 책』과 같은 명저로서 유명하며 그의 회사였던 Gotham Capital은 단순한 마법공식을 통해 20년간 연평균 40%의 경이적인 수익률을 달성하였다.

그는 알고리즘과 전문가의 성과를 측정하기 위해 다음과 같은 실험을 진행하였다.우선 그의 회사는 각각 독립적으로 관리되는 계정을 투자자에게 제공하고 투자자는 두 가지 중 하나의 방식을 선택할 수 있다. 첫 번째는 단순한 알고리즘에 의해 운용되는 펀드이며, 다른 하나는 그 알고리즘의 결과는 받아볼 수 있으나 실제 포트폴리오의 운용 및 비중 선정은 투자자의 자유재량에 맡겨지는 펀드이다. 2009년부터 2011년까지의 기간 동안 과연 이 두 펀드는 어느 정도의 성과를 창출했을까?

이번에도 승리는 알고리즘에게 돌아갔다. 알고리즘은 시장벤치마크인 S&P 500을 약 20%p의 격차로 너끈히 이겼으며, 자유재량에 의해 운용되는 펀드는 59.4%의 수익률을 보이며 시장 벤치마크 수익률(62.7%)를 이기지도 못하는 초라한 성적을 냈다. 이러한 실험의 결과는 위의 뇌 손상 연구와 마찬가지로 모델이 성과의 바닥이 아닌 천장으로써 작용한다는 것을 알려주는 결과였다.
 
4. 전문가 vs. 모델에 대한 메타 분석(Meta-Analysis)
위의 연구 결과들은 전부 인간의 판단보다는 알고리즘이 의사결정에 있어서 더 나은 성과를 보여준다는 증거를 제시하고 있다. 그러나, 몇몇 사람들은 아직도 이러한 알고리즘의 정확성에 대해 부인을 할 것이며, 그들이 생각할 수 있는 반론의 여지는 다음과 같을 것이다. “위의 연구들의 주제는 너무 편협적이어서 객관적이지 못한 것 같아. 좀 더 다양한 분야에서의 증거들이 필요하지는 않을까?” 하고 말이다. 그래서 준비했다. 2000년에 미네소타 대학의 5명의 학자들은 토르의 묠니르처럼 알고리즘의 아웃퍼폼에 쐐기를 박는 아주 초변태적(?)인 연구를 진행하였다.

Grove 외 4명의 학자들은 이른바 ‘메타 분석(Meta-Analysis)’이라고 하는 기법을 통해 그간 과거 여러 분야에서 진행된 연구들에 대해 모델과 인간의 예측력의 차이를 측정하였다. 메타 분석이라는 말이 굉장히 거창하기는 하지만 방법은 매우 단순하다. 최대한 많은 연구 결과들을 수집하여 요약한 후에 통계적인 분석을 통해 객관적인 결과를 도출해내는 방법이다. 한 마디로 굉장한 인내심과 끈기가 필요한 연구방법론인 것이다. 그들은 무려 136개(!)의 과거 연구들을 수집하여 모델과 인간의 예측력 차이를 측정하였고, 학습 성과, 잡지 광고를 통한 매출 효과, 군대 훈련 성과, 각종 병의 진단, 사업 실패, 자살 시도, 결혼 만족도, 와인의 질 등 굉장히 다양한 주제의 연구들을 수집하여 이에 대해 연구를 진행하였다. 결과는 어떠했을까?

결과는 당연히 모델의 승리였다. 인간이 모델보다 더 나은 성과를 가져올 확률은 단지 6%에 불과했으며, 다른 말로 하면 모델이 인간과 비슷하거나 더 나은 성과를 가져올 확률은 94%에 달했다. 판단과 의사 결정을 내려야 하는 문제에 있어서 대부분의 경우 알고리즘이 인간을 이긴다는 것을 보여준 연구였다. 또한 이 연구는 다음과 같은 명제로서 결론을 짓고 있다.

“인간 대비 알고리즘의 예측 우수성은 지속적으로 존재해왔으며, 이러한 우수성의 존재는 판단의 종류, 경험의 양이나 데이터의 종류 등에 모두 무관한 일반적인 현상이다.”


# 왜 인간은 알고리즘을 이길 수 없을까?
답은 행동경제학(Behavioral Finance)에 있다. 

행동경제학의 창시자인 다니엘 카너먼은 인간의 뇌가 크게 두 가지 시스템에 의해 구동된다고 말하였다. 시스템 1과 시스템 2로 표현되는 이 두 가지의 서로 다른 체계는 기능과 방식이 서로 다르다. 시스템 1은 매우 직관적이고 즉각적인 판단 및 실행을 요구한다. 어떤 사람이 나에게 총을 겨누거나, 위험한 상황에 처해있을 때, 혹은 지하철에서 찡그린 표정의 사람을 보았을 때나 2+2를 보았을 때처럼 우리의 뇌는 우리의 사고회로를 거치지 않고 즉각적인 반응을 만들어낸다. 이와 다르게 시스템 2는 미적분과 같은 수학문제를 풀거나 글쓰기를 할 때, 혹은 어떤 문제에 대한 분석 작업을 할 때처럼 굉장히 느리고 이성적인 사고 과정을 요구한다. 인간이 이성적인 동물이라는 명제는 시스템 2를 강조하는 것이나, 현실은 우리는 이성적인 ‘동물’이라는 것이다. 시스템 2는 우리가 의식적으로 노력을 해야만 발현이 되는 것이고, 우리는 본질적으로 동물이기 때문에 24시간 거의 시스템 1의 작동 하에 생활을 하게 된다.시스템 2가 필요한 때는 우리가 의식적으로 노력을 하려고 하는 그 시간 뿐이다. 주식시장에서 매매를 할 때 어떤 기분이 드는가? 가격이 빠르게 바뀌고 불빛이 깜빡거리는 화면을 보고 있자면, 우리는 시스템 2보다는 시스템 1의 작용을 훨씬 더 많이 받게 된다. 직관적인 감정인 공포(Fear)와 욕심(Greed)이 우리의 뇌를 지배하게 되는 것이고, 이는 결론적으로 비합리적이고 비논리적인 의사결정을 야기한다. 결국, 철저하게 이성적이어야 할 금융시장에서 우리는 비이성적 판단을 통해 우리의 성과를 처참히 악화시키게 되고 결국은 이 게임판을 떠날 수 밖에 없다. 알파는 결국 우리가 가지고 있는 비합리성에 의해 시장에서 창조되며 이는 합리성을 가지고 있는 주체인 알고리즘에게로 귀결된다.
 
앞으로 한국의 금융 시장은 점점 더 선진국의 시장과 같이 알고리즘 기반의 판단과 의사 결정에 많이 영향을 받게 될 것이다. 이미 미국의 주식시장에서 대부분의 거래량은 알고리즘에 의해 체결이 되고 있는 상황이다. 그렇다면 이 말인즉슨 기계가 인간을 지배하는 매트릭스와 같은 세상이 될 것이라는 말인가?
 
개인적으로는 그렇게 되지 않을 것이라고 생각한다. 왜냐하면 결국 돈을 벌려고 하는 주체는 인간이며, 알고리즘을 설계하고 사용하는 주체 또한 인간이다. 의사 결정을 내리는 것 또한 내가 내 직감을 선택할 것이냐, 아니면 내가 만든 알고리즘을 선택할 것이냐의 문제이기 때문에 원초적인 결정은 인간이 해야 한다. 또한, 우리는 우리의 창조성과 독창성을 통해 새로운 알파 전략을 디자인하는 데 일가견이 있다. 세상에 존재하는 모든 알파 전략은 인간이 설계한 것이다.

중요한 것은 치밀한 객관성을 요하는 구현(Implementation)과 실행(Execution)의 과정에서는 인간의 비합리성이 치명적인 독이 될 수 있다는 것이다. 시장에 존재하는 알파를 향유하고 싶은가? 그렇다면 투자자는 인간의 본질적인 한계를 인정하고 좀 더 겸손해질 필요가 있다. 겸손해질수록 우리는 자만심에 찬 다른 플레이어들의 시장 기부 활동이 눈에 선명하게 보일 것이다. 생각해보라, 어느 누가 주식을 시작할 때 '나는 결국 망할 거야.'라는 생각을 가지고 국가 공인 도박판에 뛰어드는가? '나는 주식으로 순식간에 부자가 될 수 있어!' 이러한 희망찬 생각들이 더 많지 않을까? 하지만 희망이란 과연 합리적인 관념일까?
우리의 뇌는 절대 합리적일 수가 없다.