시장을 풀어낸 수학자

짐 사이먼스 할아버지만큼 현대 금융 역사에서 퀀트 투자로 독보적인 위치를 차지하고 있는 존재가 과연 있을까? 그의 헤지펀드 르네상스 테크놀로지는 근 30년간 매우 경이적인 수익률을 보여주었으며, 이를 복리로 계산하면 누적 수익률이 무려 2백만 퍼센트에 달한다.

르네상스 테크놀로지의 연간 수익률 추이

재작년 말 영문판이 출시되었을 때 이미 한 번 리뷰를 했었던 그레고리 주커만의 「시장을 풀어낸 수학자」가 최근 한국어로 번역이 되어 출간되었다. 이 책은 퀀트 투자의 혁명을 일으킨 모든 퀀트들의 워너비, 짐 사이먼스와 그의 회사 르네상스 테크놀로지에 대한 이야기를 담고 있다.

시장을 풀어낸 수학자

우리는 이 책을 통해 워낙 베일에 싸여 거의 아무것도 알려지지 않은 르네상스 테크놀로지의 성장과정뿐만 아니라 이를 설립한 짐 사이먼스의 개인사와 일대기를 엿볼 수 있다. 또한 이러한 서사 속에서 베이지안 통계학, 모멘텀 전략, 머신러닝, 확률과정, 팻테일, 리스크 프리미엄, 행동경제학, 확률적 우위 등 퀀트 투자에 필수적인 주요 개념들에 대한 그들의 생각과 견해를 접할 수 있다.

르네상스 테크놀로지의 이야기를 읽어 내려가면서 공감이 되는 동시에 다소 놀랐던 부분은 손익 결과에 대한 그들, 즉 과학자들의 반응이었다. 결국 그들 또한 과학자이기 이전에 인간이었다. 손실이 몇 차례 계속되었을 때 그들이 느꼈을 불안감과 공포를 여실히 책을 통해 느낄 수 있다. 그들도 '우리의 트레이딩 모델이 망가진 것일까?'라는 생각을 수없이 되뇌었다. 브라이언 키팅의 말처럼 결국 과학자도 인간이다. 욕망과 데이터가 충돌할 때 때로는 증거가 감정에 밀린다. 퀀트 투자를 해보았다면 쉽게 공감할 수 있는 대목이다.

아무리 합리적인 논리와 객관적인 데이터에 기반해 어떤 전략이 확률적으로 우위를 낼 수 있다는 것을 이성적으로 인지하고 있음에도 불구하고, 해당 전략이 실제 트레이딩 과정에서 몇 번의 연속적인 손실을 내면 우리는 자연스럽게 모델을 의심하게 되며 우리의 멘탈이 심각하게 흔들리는 것을 경험할 수 있다. 그러다 이를 만회하기 위해 모델을 폐기하거나 혹은 또다시 내 직감대로 행동하게 되면 결과는 훨씬 더 안 좋아진다. 우리가 인간이라는 사실 하나가 계속 스텝을 꼬이게 만드는 것이다. 더군다나 이 바닥은 그리 인내심이 많은 동네가 아니다. 단기적으로 성과를 내야 하는 점 또한 엄청난 심리적 압박이다. 르네상스 테크놀로지라는 회사가 허용하는 인내심의 정도도 결국 6개월이었다. 계량적 방법을 사용하기 이전에 엄청난 멘탈 트레이닝이 무조건적으로 선행되어야 하는 이유다.

이 책을 통해 알 수 있었던 또 다른 사실은 결국 르네상스 테크놀로지의 수익 원천이 수학, 과학이 아닌 인간 행동 패턴이었다는 것이다. 즉, 본질은 바로 인간의 비이성적 행동 패턴을 파악하고 이를 모델화시키는 것이었다. 그 과정에서 계량적 방법론이 쓰였을 뿐 그들이 모델로 구축하려 했던 것은 인간의 행동 방식이었다. 따라서 그들은 단지 데이터로만 좋아 보이는 전략을 택한 것은 아니었으며, 언제나 그러한 패턴 기저에 자리하고 있는 합리적이고 타당한 논리적 근거를 찾으려 했다. 그들은 '이 신호가 합리적인 것으로 보이는 행동 방식과 관련 있는가?'를 끊임없이 자문했다고 한다. 궁극적으로 퀀트 투자에서 중요한 것은 금융시장을 구성하고 있는 인간들을 이해하는 것이다. 결국 리스크 프리미엄 이란 시장 참여자들이 그렇게 행동하지 않기 때문에 그 반대급부로 얻을 수 있는 산물이다. 즉, 인간의 행동이 수익을 만들어내는 것이다. 짐 사이먼스와 르네상스 테크놀로지는 이를 이용해 수익화하는 방법을 터득했다.

결국 르네상스 테크놀로지의 성공은 퀀트 투자 분야의 타당성을 입증했다. 적어도 지금까지는 말이다. 퀀트가 틀린 것이 아니라 퀀트를 잘못된 방식과 생각으로 사용하고 있기에 퀀트로 돈을 벌 수 없다고 말하는 부류가 존재하는 것이다. 그런데 이 분야에서 실패 사례가 많을 수밖에 없는 당연한 이유는 실패를 야기할 수 있는 수많은 요인이 퀀트 투자의 성공으로 가는 길 곳곳에 도사리고 있기 때문이며, 우리는 이러한 함정에 매우 쉽게 빠질 수 있기 때문이다. 예를 들어, 심리 트레이닝의 부재, 감정과 직감에의 의존, 각종 인지적 편향, 데이터 고문을 통한 과최적화, 합리적인 근거의 부재, 단기적 성과를 내야 하는 상황, 계속해서 변화하는 시장 국면 등이 바로 그것들이다. 심지어 사이먼스와 르네상스 테크놀로지의 직원들마저 이러한 함정이 있다는 것을 머리로는 잘 알고 있으면서도 실제로 이를 극복하는 게 얼마나 어려운지를 고백했다. 확실히 퀀트 투자의 길은 멀고도 험하다. 하지만 그렇기 때문에 알파가 있는 것 아니겠는가. 이것이 퀀트 투자가 가지고 있는 본질적인 리스크 프리미엄이다. 프리미엄이 프리미엄인 데는 다 이유가 있다.