퀀트 업계의 새로운 트렌드, 컨버전스
# 퀀트 퀘이크 어게인?
올해 여름, 알고리즘과 모델을 활용하는 여러 퀀트 전략들이 예상치 못한 흔들림을 겪었다. 물론 이는 2007년의 악명 높았던 ‘퀀트 퀘이크’ 사건 정도만큼은 아니었지만, 업계 사람들에게는 작은 지진처럼 느껴질 만한 사건이었다. 왜 이런 사건이 발생한 것일까? 이에 대한 원인은 몇 가지가 거론됐지만 최근 들어 힘을 얻고 있는 주장은 바로 마켓 메이킹 하우스와 퀀트 헤지펀드의 활동 영역이 중첩되는 소위 컨버전스 현상이다. 다시 말해, 프랍 샵과 헤지펀드 간의 경계가 허물어지고 있으며 이에 따라 충격이 더 증폭되었을 수 있다는 것이다.
물론 업계 내부에서는 이번에 가장 크게 피해를 본 전략은 초단기 신호가 아닌 비교적 장기 스타일이었다는 반론이 있다. 그럼에도 불구하고 수년간 별개의 생태계처럼 움직였던 두 세계가 같은 공간으로 수렴하고 있다는 점만큼은 누구도 부인하기 어려워졌다. 특히나 이러한 흐름은 2020년 코로나 이후 계속해서 뚜렷해졌다. 이러한 현상을 주의 깊게 살펴보아야 하는 이유는 이것이 앞으로의 퀀트 비즈니스 전략 재편에 있어 꽤나 영향력 있는 함의를 제공할 수 있기 때문이다. 물론 이러한 컨버전스 현상을 제대로 이해하기 위해서는 기본적으로 마켓 메이킹을 수행하는 프랍 하우스 그리고 통계적 차익거래를 노리는 퀀트 헤지 펀드가 어떻게 다른지 그리고 어떤 발전 과정을 거쳐 왔는지를 먼저 이해할 필요가 있다.
# 고빈도 매매의 진화
우리가 흔히 HFT(High Frequency Trading)라고 부르는 고빈도 매매는 그것이 처음 탄생한 이후 수십 년간 극적으로 진화해 왔다. 1970년대 뉴욕증권거래소의 최초 전자식 ‘지정가 주문 처리’ 시스템이 그 시초라고 보든, 1980년대 나스닥 소액 주문 체결 시스템을 구축한 ‘밴디츠(Bandits)'라고 불린 트레이더들이든, 1990년대 '전자 통신 네트워크’ 상의 자동화 거래 폭발이든 간에 말이다.
이 산업의 첫 번째 큰 전환점은 2005년 미국 증권거래위원회(SEC)가 통칭 RegNMS(Regulation National Market System)라고 하는 제도를 도입하면서 찾아왔다. 이는 미국 주식 시장 구조를 현대화하고 경쟁을 촉진함으로써 현재의 전자 거래 혁명을 위한 무대를 마련한 셈이었다.
이러한 기술적, 제도적 혁명이 얼마나 진전되었는가는 2010년 '플래시 크래시'를 통해 비로소 대중에게 처음 드러났다. 당시 미국 주식시장은 인간이 이해하기 어려울 정도로 급격히 폭락했는데, 이후 마이클 루이스의 2014년 베스트셀러 『플래시 보이즈』는 고빈도 거래자들을 시장을 망치는 금융 기생충으로 표현했고 사람들은 그때부터 HFT는 부정적으로 바라보기 시작했다.
물론 HFT 업계는 자신들을 월가의 브로커들을 제압하고 투자자들의 거래 비용을 낮춘 괴짜 혁신가들로 여겼기에, 이 책에서 자신들이 묘사된 방식에 경악할 수밖에 없었다. 실제로 글로벌 트레이딩 시스템즈의 책임자 아리 루벤스타인은 자신이 가장 좋아하는 작가 중 한 명이 자신의 업계에 관한 책을 쓴다는 소식을 처음 접했을 때, 당연히 그들이 이야기의 주인공이 될 거라 생각했다고 한다. 하지만 결과는 정반대였다. 마이클 루이스는 그의 저서에서 HFT를 악당으로 묘사했다.
HFT의 비즈니스 방식을 HFT답게 만들어주는 것은 뭐니뭐니해도 속도다. 한 틱의 찰나를 누구보다 빠르게 가져갈 수 있는가가 HFT 수익의 성패를 결정한다. 따라서 한때 밀리초(1000분의 1초) 단위로 측정되던 것이 2000년대에 나노초(10억분의 1초)로, 오늘날에는 종종 피코초(1조분의 1초) 단위로 이루어진다. 그렇기에 이 영역에서는 여전히 마이크로웨이브 타워 설치와 코로케이션(colocation)이 굉장히 중요하다.
그러나 최근 이러한 '저지연 거래(Low-Latency Trading)'는 물리적 한계에 부딪히고 있으며, 치열한 경쟁으로 인해 수익성 또한 크게 떨어지고 있다. 무위험에 가까운 수익이기에 이를 차지하기 위한 군비 경쟁은 어찌 보면 시장의 당연한 생리이기 때문이다. 한 HFT 임원은 이렇게 말한다. “알파는 없습니다. 전부 지연 시간문제죠. 모든 관심이 여기에 쏠리지만, 실제로는 큰 수익을 내지 못합니다.” 그 결과 최근 몇 년간 대규모 통합이 진행되었으며, 초기 HFT 개척자 다수가 도태되거나 정체 상태에 머무르고 있다.
따라서 신흥 HFT 강자들은 순수한 속도 경쟁에서 벗어나 분, 시간, 심지어 며칠 동안 포지션을 유지하며 자기 자본으로 위험을 감수하는 프랍 트레이딩 회사로 진화한 기업들이다. 이들은 단순히 양방향 호가 제출을 통해 스프레드를 챙기는 방식과는 차별화된다. 이와 관련된 대표적인 사례로는 제인 스트리트, 시타델 증권, DRW, 서스쿼해나 인터내셔널 그룹, 허드슨 리버 트레이딩 등의 기업들을 꼽을 수 있다. 물론 이들 기업 대부분은 여전히 고전적인 고속·고빈도·대량 거래를 많이 수행하지만, 점점 프랍 트레이딩의 비중을 키워나가고 있다. 다시 말해, 마켓 메이킹만을 전문적으로 수행하던 HFT 회사들은 ‘통계적 차익거래(Statistical Arbitrage)’ 전략을 추구하는 헤지펀드들이 개척해 온 영역으로 서서히 진입하기 시작했다.
# 통계적 차익거래와 퀀트 헤지펀드
1980년대 초 어느 날, 게리 뱀버거(Gerry Bamberger)라는 프로그래머는 모건 스탠리에서 소위 '페어 트레이딩(Pairs Trading)'이라는 기법을 개척했다. 페어 트레이딩은 일반적으로 밀접한 상관관계를 보이지만 가끔 반대 방향으로 움직이는 증권 쌍을 찾는 매매 기법이다. 예를 들어, 펩시와 코카콜라, 비자와 마스터카드 같은 서로 비슷하게 움직일 것 같은 종목 쌍들을 찾는다. 그런 다음 페어 상에 일시적인 괴리가 발생했을 때 한 쪽을 공매도하고 다른 쪽을 매수한 뒤 시간이 지나면 역사적 연관성이 재확인될 것이라는 것에 내기를 거는 방식인 것이다.
시간이 지나면서 이는 통계적 차익거래라는 더 광범위한 전략으로 발전했다. 이 전략은 시장 곳곳을 샅샅이 뒤져 이와 같은 수백, 수천 가지 기회를 지속적으로 발굴하고, 전체 주식 시장 리스크에 대한 헤지를 통해 시장 움직임과 무관한 알파를 창출하는 데 주력한다. 이후 이러한 통계적 차익거래 방식은 단순한 페어 트레이딩에서 보다 확장되어 개별 주식, 시장 전체 ETF, 지수 옵션 및 선물 등을 활용한 더 복잡한 형태로 발전되었다.
뱀버거는 이후 모건 스탠리와 불화를 빚고 퀀트의 아버지 에드 소프가 설립한 선구적인 퀀트 헤지펀드인 프린스턴/뉴포트 파트너스로 떠났다. 모건 스탠리의 APT 데스크는 유명한 욕설을 일삼는 전직 물리학자 눈지오 타타글리아(Nunzio Tartaglia)가 인수했으며, 그는 한동안 이 부서를 새로운 차원으로 끌어올렸다. 1987년 APT는 모건 스탠리에 5천만 달러의 수익을 창출한 것으로 알려졌는데, 당시로서는 엄청난 금액이었으며 특히 그해 발생한 블랙 먼데이 폭락 사태를 고려하면 더욱 놀라운 성과였다.
그런데 1980년대 말에 이르러 모건 스탠리 APT 데스크의 수익률은 점점 감소하기 시작했고, 이에 따라 해당 데스크의 많은 퀀트들은 모건 스탠리를 퇴사했다. 그중에는 데이비드 쇼(David Shaw)라는 뛰어난 기술 전문가도 포함되어 있었는데, 그는 통계적 차익거래를 기반으로 자신만의 헤지펀드를 설립했다. 이것이 오늘날 700억 달러 규모의 AUM을 운용하고 있는 DE 쇼(DE Shaw) 펀드다. DE 쇼는 이후 퀀트 헤지펀드 업계의 또 다른 거물인 투 시그마(Two Sigma)를 탄생시켰으며, 모건 스탠리의 APT 데스크는 결국 피터 뮬러의 프로세스 드리븐 트레이딩 그룹(Process Driven Trading Group) 형태로 부활했다. 2012년 이 그룹은 은행에서 분사되어 헤지펀드 PDT 파트너스(PDT Partners)가 되었다.
DE 쇼, 투 시그마, PDT는 현재 합쳐서 약 1,500억 달러를 운용하는 것으로 알려졌으며, 그 대부분이 통계적 차익거래 전략에 투자된다. 퀀트 헤지펀드계의 전설 르네상스 테크놀로지스의 메달리온 펀드 역시 대부분 통계적 차익거래로 구성되어 있다고 알려져 있다. HFT와 마찬가지로 통계적 차익거래 또한 전략과 보유 기간은 매우 다양할 수 있다. 일부 헤지펀드는 몇 시간만 포지션을 유지하는 신호를 사용하는 반면 다른 펀드들은 며칠, 때로는 몇 주까지도 포지션을 유지한다.
# 퀀트 인커전 속에서 살아남기
이전까지만 해도 마켓 메이킹 하우스와 헤지펀드는 각자의 비즈니스를 플레이하는 영역이 서로 달랐다. 그도 그럴 것이 헤지펀드가 타인의 자금을 운용하는 반면, 프랍 하우스들은 대개 자기 자본만을 운용하기 때문에 장부상 위험한 포지션을 너무 오래 끌고 다니고 싶어 하지 않기 때문이다. 그렇기에 HFT 업체들은 오랫동안 오버나잇 포지션이 아예 없는 '플랫' 상태로 퇴근하는 것이 당연했다. 결국 이러한 비즈니스적 차이 때문에 이들은 본질적으로 서로 다른 두 산업으로 발전할 수 있었고 그들은 서로 그들의 영역을 존중해 주면서 진화해왔다.
하지만 세상의 모든 분야가 그렇듯이 발전이 지속되다 보면 언젠가는 포화 상태가 생기기 마련이고, 이에 따라 생존을 위해서는 새로운 영역으로 개척을 해나가야만 한다. HFT 업체들과 헤지펀드가 현재 겪고 있는 상황이 정확히 이와 같다. 여러 퀀트 업계 관계자들은 코로나19로 인한 트레이딩 붐 이후 여러 트레이딩 업체들이 막대한 수익을 창출해 이를 투자할 새로운 장소를 찾아야 했던 시점부터 본격적인 두 영역의 컨버전스가 시작됐다고 말한다.
우선 전통적인 저지연 전략은 매매 속도가 매우 빠르기에 특정 시점에 투입할 수 있는 자본 규모에는 한계가 있는 것이 사실이다. 다시 말해, 10억 달러 정도에서 효과적이던 전략이 100억 달러 규모에서는 오히려 효율이 떨어질 수 있다. 반면 상대적으로 장기적인 트레이딩에서는 자본과 인력 그리고 기법 측면에서 더 많은 자원을 투입할 수 있는 기회가 존재한다. 소위 말하는 캐파(Capacity)의 문제다. 수익의 성장이 지속되기 위해서는 더 큰 포지션을 취해야 한다. 리서치와 컴퓨팅 파워에 막대한 투자가 이루어진 상황에서 이러한 투자 비용을 회수하기 위해서는 가능한 한 많은 투자 캐파를 확보할 필요가 있는 것이다.
또한 이제는 점점 더 많은 트레이딩 회사들이 '중빈도(Mid-Frequency)' 트레이딩 전략을 무기고에 추가하기 시작했으며, 현재 이러한 방식의 트레이딩은 허드슨 리버 트레이딩(HRT) 같은 곳에서 강력한 수익원으로 꼽히고 있다. HRT에서는 이러한 신호들을 프리즘이라는 별도 부서에 맡기고 있으며, 지난해 20억 달러 이상의 수익을 올린 것으로 알려졌다. 타워 리서치 캐피탈(Tower Research Capital)의 경우, 한 관계자에 따르면 중빈도 트레이딩이 현재 수익의 약 25~30%를 차지하는데, 이는 2~3년 전의 10% 미만이라는 수치에서 크게 증가한 결과다. 시타델 증권 또한 전통적인 시장 조성자 역할을 고수해 왔으나, 최근에는 포지션을 더 오래 보유하는 것으로 알려져 있다.
정리하자면 헤지펀드와 프랍 트레이딩 하우스들은 보유 기간이 몇 분이나 몇 시간 혹은 며칠에 이르는 중빈도의 영역에서 점점 더 치열한 경쟁을 벌이고 있다. 이런 현상이 발생하는 이유는 앞서 언급했듯이 지연 시간이 극단적으로 짧은 쪽에서는 과거 보다 차익 거래의 기회가 축소되었고, 투자 전략이 상대적으로 긴 쪽에서는 위험 프리미엄이 과밀화되었기 때문이다. 이렇게 되면 자연스럽게 자본과 인재는 중간 지대로 이동할 수밖에 없게 된다. 따라서 뛰어난 체결 DNA를 가진 프랍 트레이딩 회사들이 며칠 단위의 신호로 영역을 확장하는 반면, 전통적인 통계적 차익거래 회사들은 그들의 매매 사이클을 가속화시키고 있는 것이다. 골드만삭스가 최근 실시한 퀀트 헤지펀드 업계 연례 조사에서 나온 아래의 차트는 프랍 트레이딩 하우스들의 시장 점유율 추정치가 최근 몇 년간 어떻게 급격히 확대되었는지 보여준다.
그렇다면 이러한 현상이 가진 함의는 대체 무엇일까?
그것은 바로 '나와바리의 붕괴'라고 말할 수 있다. 과거에는 각 퀀트 포지션별로 각자만의 고유한 영역이 존재했다. 또한 서로가 자기 분야 이외의 영역에는 큰 관심이 없었고 또 각자의 이권이 침해당하는 일도 없었기에 그들은 각자 서로의 분야를 존중하면서 굳이 신경을 쓰지 않아도 됐었다. 하지만 이제는 상황이 다르다. 각자의 영역에서 격화된 경쟁은 비즈니스의 수익성을 잠식해나가기 시작했고 이에 따라 퀀트들은 자신이 엣지를 가지고 있는 분야뿐만 아니라 돈이 될만한 다른 퀀트 영역에까지 손을 댈 수밖에 없는 상황이 되었다. 결국 퀀트 비즈니스의 3대 축이라고 할 수 있는 헤지펀드와 마켓 메이킹 그리고 구조화 비즈니스의 경계가 조금씩 허물어져 가고 있는 것이다. 퀀트 인커전 속에서 생존하기 위해서는 퀀트의 성학십도가 필요한 이유다.
