금융 시장을 침공한 알고리즘
인공지능 투자가 퀀트들의 등장
1998년 LTCM 사태, 2002년 닷컴 버블, 2008년 서브프라임 사태와 같은 금융 위기 때는 거의 모든 종류의 금융회사들이 고통 받았다. 주식, 채권, 부동산 할 것 없이 수익률이 바닥을 쳤다. 손해를 보지 않으면 대단한 행운이었다. 그러나 트레이딩 회사의 알고 트레이더들의 상황은 달랐다. 시장이 패닉하면서 사려는 사람과 팔려는 사람 모두 급증하였고 거래량의 증가로 양방향 거래가 쉽게 성사되어 알고 트레이더들은 큰돈을 벌게 되었다. 그들의 인공지능은 사람들의 패닉을 안정화시켜주는 대가로 수익을 얻고 짧은 순간에 어디로 움직일지 파악해 추가 수익을 얻었다.
알고 트레이더들은 시카고거래소를 떠나 자신들의 인공지능들을 더 큰 시장에서 사용해보기로 하였다. 그들은 누구보다 빠른 거래 시스템이 있었고, 주식이 올라갈지 내려갈지 예측을 하진 않았지만 거래량에 따라 잠시 오를지 내릴지 정도는 파악할 수 있었다. 그들은 수요 공급 불균형으로 미세하게 충격을 받았다 돌아오는 타이밍을 찾아서 이를 이용해 수익을 얻었다. 이들이 주식을 가지고 있는 시간은 고작 몇 초도 되지 않았다. 짧은 찰나에 불균형을 찾아서 이익을 얻는 것이기 때문에 승률은 80% 이상이었다.
이들은 다른 알고리즘의 거래 조짐을 알아내는 데에도 탁월하였다. 디이쇼(D.E. Shaw)나 르네상스 테크놀로지(Renaissance) 같은 퀀트 펀드의 통계적 차익거래 조짐을 미리 파악해서 재빠르게 선점하기도 했다. 헤지펀드들은 주식들의 가치를 파악하는 데 특화되어 있었지만 시장 상황이나 거래를 분석하는 부분은 부족했기 때문에 알고 트레이더들에게 속수무책으로 당하였다. GETCO나 버투파이낸셜(Virtu Financial) 같은 알고리즘 트레이딩 회사들은 구글이나 버라이즌 같은 곳의 엔지니어들에게 연봉을 두 배 이상 주면서 영입하기 시작했다.
통신 엔지니어는 거래 정보를 최대한 빨리 처리하고 심지어 다음에 올 정보까지 예측하는 일을 담당했다. 정보를 컴퓨터에 옮긴 다음에 계산하는 시간조차 아끼기 위해서 회로상에서 계산을 하도록 회로 전문가들까지 대거 투입되었다. 이렇게 마이크로초 단위, 심지어 나노초 단위까지 경쟁하는 극초단타매매의 시대가 온다. 다른 회사보다 시장 상태를 더 빨리 파악하고 충격을 미리 찾으면 안정적인 수익을 얻었다. 이는 주식이 오를지 내릴지 분석하는 기존의 통계적 차익거래 방식과는 달랐다. 통계적 차익거래는 시장의 틈이 어떤 이유로 생겼는지는 대게 알지 못하였다. 그러므로 승률이 55-60% 정도만 되더라도 굉장히 좋은 거래였다. 그러나 알고 트레이딩으로 얻는 수익은 시장에 있는 거래를 잡아내는 방식이었기 때문에 승률이 엄청났다.
거대 거래를 해야 하는 투자은행이나 자산 관리 업체들은 속이 탈 수밖에 없었다. 큰 거래를 무작정 하면 비용이 엄청나게 오르고 알고 트레이딩 회사들의 먹잇감이 되기 십상이었다. 결국 자신이 큰 거래를 해야 한다는 것을 들키지 않도록 시장에 조심스럽게 풀면서 거래해야 했는데, 이미 시장 상황을 철저히 빠르게 분석하는 알고 트레이딩 회사들을 당해낼 재간이 없었다. 결국 투자은행들과 헤지펀드에서도 자신들의 거래를 숨기기 위해서 알고 트레이더들을 영입하기 시작했다.
이렇게 숨기려는 알고 트레이더와 찾으려는 알고 트레이더들의 치열한 경쟁이 시작되었다. 이들은 남들보다 정보의 우위를 가지고 다양한 전략을 구사하기 위해서 지연 시간을 극도로 낮추고 속도와 빈도를 엄청나게 높였다. 1998년에 전자 거래가 처음 도입되었을 때는 1초에 몇십 번 정도에 그치던 거래 빈도수가 1초에 수천 번이 되더니 수만 번까지 늘어났다. 한 번의 주문을 보내는데 초 단위가 아니고 밀리초(0.001초)를 넘어 마이크로초(0.000001초), 최근에는 나노초까지 등장하고 있다고 한다. 이들을 사람들은 초단타매매 혹은 고빈도 매매자(High Frequency Trader; HFT)라고 불렀다. 나이트 캐피탈(Knight Capital)이나 버투파이낸셜(Virtu Financial), 점프트레이딩(Jump Trading), 타워리서치캐피탈(Tower Research Capital) 등이 이런 초단타매매 전쟁 대열에 합류하였다. 이들은 거래소 안에서도 지연시간을 줄이기 위해 코로케이션(Co-location)이라는 가장 가까운 자리를 돈을 주고 샀고 마이크로파 통신, 중공 광섬유, FPGA 회로 설계 등을 이용한 하드웨어를 이용하였다. 뿐만 아니라 병렬 처리 기술자나 고속 데이터베이스 엔지니어들을 영입해서 소프트웨어의 속도 또한 극한으로 끌어올렸다. 이들의 끝없는 현대 속도 전쟁은 책에서 더 자세히 다루도록 한다.
투자 전문 헤지펀드나 은행들도 가만히 있지 않았다. 그들은 자신들의 거대 거래들을 그냥 보내면 굉장한 비용도 들고 다른 초단타 알고리즘들에게 잡아먹힌다는 사실을 알았다. 처음에 사용한 방법은 자신들이 원하는 거래를 한번에 주문하는 것이 아니라 일정한 시간을 두고 보내는 방법이었다. IBM 1만 주를 거래하고 싶다면 5분에 한 번 1천주씩 거래하는 식이었다. 그러나 이 방법은 5분마다 거대 거래가 나타나기 때문에 알고리즘들에 의해서 쉽게 발각되었다. 그래서 그보다 조금 더 발전된 방법이 시간가중가격 알고리즘(TWAP)이다. 정해진 시간 간격 사이에 평균 가격을 계산해서 이를 토대로 주문을 보내는 식이었다. 그러나 정해진 시간 간격을 두고 보냈기 때문에 일정한 가격이었던 이전 방법보다는 나았지만 여전히 발각되기 쉬웠다. 시간을 무작위로 하면서 규칙을 가지는 거래를 하고 싶었던 투자자 측 알고 트레이더들은 시간이 아닌 일정량의 거래량마다 주문이 작동하는 거래량가중가격 알고리즘(VWAP)을 개발하였다. 이 알고리즘은 거래량에 따라 시간 유동적으로 주문을 보내면서 주문 패턴과 가격 또한 합리적이었기 때문에 주문을 처리하는 가장 유명하고 보편적인 알고리즘이 되었다.
그러나 TWAP와 VWAP는 초단타 거래자들이 훤히 꿰뚫고 있는 알고리즘이었다. 투자자들은 좀 더 적극적으로 다른 알고리즘들을 방어할 수 있는 방법을 찾고 있었다. 투자자 측에 있던 알고 트레이더들은 시장미시구조 상태를 파악해서 유연하게 대처하는 실행 차이 모델(Implementa-tion Shortfall) 알고리즘을 개발해 거래하기 시작했다. 이 방법은 미시구조를 자세히 분석해 현재 거래를 했을 때와 하지 않았을 때의 확률상 거래 비용 차이를 계산하고 최선이라 생각될 때 거래하는 알고리즘이다. 이러한 차이를 계산하는 역량에서 알고 트레이더의 실력 차이가 두드러지기 시작했다.
초단타 트레이딩 회사들의 먹이가 되지 않기 위해 투자자들에게 최적의 거래 알고리즘을 따로 제공해서 판매하거나 수수료를 받는 서비스 업체도 생기기 시작했다. ITG, Bloomberg, 각종 투자은행 알고 트레이딩 데스크, 나이트 캐피탈 같은 곳에서는 자신들의 방어형 알고리즘을 투자자들에게 서비스해주고 수수료를 챙겼다. 크레딧 스위스Credit Suisse는 알고리즘을 방어하는 알고리즘들을 선보이면서 유명해졌다. 그들의 간판 알고리즘인 ‘게릴라’는 거래들을 무작위로 흩뿌리면서 도무지 거래를 하려는 의도를 보이지 않게 하면서도 거래 체결률을 80%까지 올려 투자자들에게 각광을 받았다. 크레딧 스위스에서 만든 ‘저격수들(Snipers)’이라는 알고리즘은 다른 거래자들의 알고리즘이나 거래 의도를 파악해서 이에 맞게 자신들의 의도를 묻어가거나 방어형임에도 자신들의 거래 비용을 최소화하기 위해 공격하는 알고리즘이었다. 이외에도 은행은 각자 방어형 인공지능을 만들어 초단타 트레이더들의 공격으로부터 방어하였다. 시티그룹은 자신들의 인공지능을 ‘대거(Dagger)’, 도이치뱅크는 ‘슬라이서(Slicer)’라고 불렀다.
점점 경쟁 업체가 늘어나자 알고 트레이더의 수익은 줄어들어갔다. 일부 업체들은 다른 알고 트레이더보다 조금이라도 더 빠르기 위해서 수천만 달러를 투자해 시카고와 뉴욕을 연결하는 회선을 연결하기도 했다.
1 밀리초라도 아끼기 위해 빨간색 일반 선에서 초록색 선으로 업그레이드를 했다. 그 이후 파랑과 주황색의 마이크로파 선으로 더 빠르게 만들었다이제 시장에서 활동하는 퀀트는 몹시 다양해져 하나로 정의하기도 어려워졌다. 기업의 수익이나 브랜드 가치를 수치화해서 일반적 투자를 하는 퀀트, 에드 소프나 피셔 블랙처럼 평가가 어긋난 파생상품을 거래해서 돈을 버는 퀀트, 뱀버거처럼 다른 주식과의 관계를 파악하는 인공지능을 이용해 거래하는 퀀트, 영향을 주는 요인 분석을 하는 피터 멀러 같은 퀀트, 패턴 인식 기술과 머신러닝을 도입한 사이먼스 같은 퀀트 그리고 시장 충격을 찾아 극초고속 컴퓨터로 돈을 버는 알고 트레이더까지. 이들은 서로의 방식대로 작동하는 인공지능을 가지고 시장에서 돈을 벌기 위해 전쟁을 하기 시작했다. 당연히 이를 혼합한 퀀트도 탄생했고 다른 알고리즘의 행동 양식만 알아내서 그대로 따라하거나 반대 거래로 공격하는 알고리즘 헌터도 생겨났다.
이렇게 금융시장은 알고리즘 전쟁의 시대로 돌입했다.
이 글은 책 《인공지능 투자가 퀀트》의 미리보기 글입니다.
YES24 - 인공지능 투자가 퀀트 : 알고리즘, 세계 금융 시장을 침공하다
