금융공학의 역사 그리고 시장미시구조 #5.
# 현대 시장미시구조 이론의 발전
시장미시구조 이론이 발전해 오면서 이는 통계학, 수학, 물리학, 경제학, 공학 등 여러 학문 분야들의 생각 도구들을 끌어당기기 시작했다. 금융공학이 어떤 단일 학문으로만 설명이 불가능하듯이, 현실적인 문제를 상대하기 위해 시장미시구조 이론 또한 통합적 사고를 요하는 다학제적 접근이 필요했던 것이다. 그들은 과거 고전적인 시장미시구조의 이론적 한계를 극복하고 보다 현실적인 모델을 만들어 조금 더 실증적 문제들을 다루기 시작했다.
특히 이러한 변화의 중심에는 IT 기술의 발전이 있었다. IT 기술의 발전으로 인해 금융시장의 환경과 그 속에서의 거래 행태는 2000년대 들어 급격히 변화하기 시작했고, 특히 알고리즘에 의한 자동 매매 체결이 점점 상용화되어 감에 따라 현대의 금융시장은 이른바 알고리즘 트레이딩(Algorithm Trading)이라고 불리는 혁명을 마주하게 되었다.
이러한 트렌드로 말미암아 경영과학(Operations Research)과 산업공학(Industrial Engineering)은 시장미시구조 이론을 구성하는 주요 멤버가 되었는데, 왜냐하면 알고리즘 트레이딩이 해결하려고 하는 문제 자체가 결국 불확실한 상황에서 최적의 의사결정을 내리기 위한 문제를 모델링하고 또 그것을 풀어내는 것이었으며, 그렇기 때문에 이를 위해서는 필연적으로 확률적 최적 제어 이론이 필요했기 때문이다.
확률적 최적 제어 이론(Stochastic Optimal Control Theory)은 현대 시장미시구조 이론의 문제들을 풀기 위해 없어서는 안 될 필수 도구이다. 그렇기에 어쩌면 시장미시구조 영역은 전통적인 상경계열 학생들보다는 이공계, 특히 공대생들이 두각을 나타내는 분야이기도 하다. 이 확률적 최적 제어 이론을 다루는 데 있어서 기반이 되는 것은 바로 우리가 흔히 동적 계획법(Dynamic Programming)이라고 부르는 기법이다. 동적 계획법을 사용하는 이유는 우리가 미래에 불확실하게 발생할 일을 미리 알 수 없기에 여러 단계에 걸쳐 그때그때 최적 제어를 수행하고 이를 통해 결국엔 전체적인 시스템의 최적화를 이루기 위해서이다. 따라서 확률적 최적 제어 모델은 시장미시구조 영역에서 최적 체결 문제 혹은 최적 지정가 주문 문제 등과 같은 금융시장에서의 최적 의사결정 문제를 다루기 위해 필요한 퀀트의 필수템으로 자리 잡았다. 그렇기에 현대 시장미시구조 이론을 다루고 있는 주요 텍스트들은 이 확률적 최적 제어 이론을 매우 깊게 다루고 있다.
# 최적 체결 문제
시장미시구조 이론에서 나오는 최적 의사결정 문제 중 가장 대표적인 것은 바로 최적 매매 체결(Optimal Execution)에 대한 문제이다. 쉽게 말하자면, 이 문제는 결국 내가 주어진 양의 주식을 특정 기간 내에 사거나 팔고자 할 때 전체 물량을 소화하기 위한 주문 스케줄링을 어떻게 할 것인가를 풀고자 하는 문제이다. 1998년 벌치마스(Bertsimas)와 로(Lo)는 최초로 이러한 최적 매매 체결 문제를 다루었고, 이후 1999년과 2001년에 암그렌(Almgren)과 크리스(Chriss)가 이 문제를 풀기 위한 바통을 넘겨받게 된다. 이것이 바로 최적 청산 모델의 대표주자인 암그렌-크리스 프레임워크(Almgren-Chriss Framework)이며, 이 모델은 결국 자동 매매 알고리즘이 인간 트레이더를 대체하려는 첫 신호탄을 쏘아 올렸다.
이러한 최적 체결 문제는 기존의 경제학자들은 다루지 않았던 새로운 종류의 문제였다. 현실 세계에서의 문제 풀이를 중시하는 공학자들은 경제학자들과는 다르게 시장의 모든 디테일들을 고려하여 모델을 만들어나가기 시작했다. 금융위기 전에는 1도 관심 없었던 거래 비용과 유동성, 시장 충격, 장중 변동성, 일중 상관관계, 체결 확률 등의 현실적인 주제들이 마침내 퀀트의 도마 위에 올랐다. 이런 점에서 2000년대 이후의 시장미시구조 이론은 고전 시장미시구조 이론과 현격한 차이를 보이게 된다. 고전 경제학에 기반한 과거의 시장미시구조 이론이 경제학에서 말하는 균형에 초점을 두었다면, 현대 시장미시구조 이론은 거래 활동에 따른 물리적 시스템의 충격과 반응이라는 굉장히 동적인 관점으로 접근을 했기 때문이다.
# 고빈도매매와 마켓 메이킹
시장미시구조 이론이 주목하는 또 다른 주요 논제는 바로 최적 지정가 주문 문제이다. 특히나 이 문제는 마켓 메이킹 비즈니스를 수행하려는 고빈도매매 트레이더들에게 매우 중요한 주제였다. 마켓 메이킹을 하는 고빈도매매 트레이더는 유동성을 공급하기 위해 바이사이드 플레이어와는 다르게 매수와 매도 양쪽에 주문을 내야 한다. 확률적 최적 제어 이론은 이러한 마켓 메이킹 비즈니스를 수행하는 과정에서 현재 시장 상황에 따라 마켓 메이커가 유동성을 얼마나, 어떻게, 그리고 어떤 방향으로 공급해야 하는지를 계량적으로 풀어낸다. 틱 단위로 움직이는 호가창의 영역에서 HFT 비즈니스의 성패는 결국 이러한 모델이 얼마나 장중 시장 상황을 잘 포착하고, 재고 위험(Inventory Risk)과 역선택(Adverse Selection) 위험을 최소하면서 효과적으로 유동성을 공급하느냐에 따라 좌우된다.
마켓 메이킹 모델 중 현재 가장 널리 알려져 있는 것은 바로 2008년에 나온 아벨라네다(Avellaneda)와 스토이코프(Stoikov)의 모델이다. 어떻게 보면 현대적인 의미의 마켓 메이킹 알고리즘 대부분은 바로 이 아벨라네다-스토이코프 모델의 변주라고 할 수 있다. 이후 2013년, 게엉(Guéant), 레얼(Lehalle), 그리고 페르난데즈-타피아(Fernandez-Tapia)는 이를 복잡한 편미분 방정식으로 귀결시켰고 또 이를 풀어냈다.
물론 그렇다고 해서 이러한 모델들이 어느 날 갑자기 아무것도 없는 데서 '짠' 하고 생겨난 것은 아니다. 사실 아벨라네다와 스토이코프의 모델 또한 결국 1980년대 호와 스톨의 모형으로부터 영감을 받아 탄생할 수 있었다. 결국 정교한 수학적 테크닉에 기반한 현대 시장미시구조 이론 또한 이론적 뿌리는 고전 경제학이었다. 다시 말해, 고전 경제학은 단순히 오래되었다고 해서 그 의미를 상실한 것이 아닌, 알고리즘의 시대인 다음 세기에서 공학이라는 갑옷을 입고 새롭게 태어난 것이다.
# 마치며
지금까지 우리는 금융공학의 역사를 아주 간략하게나마 살펴보았다. 이러한 금융공학의 역사 속에서 시장미시구조 이론은 그것의 방향성을 나름대로 잘 구축해오고 있는 듯하다. 시장미시구조 이론은 얼핏 보기엔 전통적인 금융공학과는 크게 상관이 없는 듯 보인다. 하지만 금융공학을 테크닉적 관점이 아닌 역사적 맥락에서 바라보면 결국 시장미시구조 이론 또한 금융공학이라는 큰 물줄기의 한 갈래임을 알 수 있다. 더불어 시장미시구조 이론이 사용하고 있는 수학적 도구를 자세히 들여다보면 이 또한 어쩔 수 없이 전통 금융공학이 가지고 있는 사고체계를 똑같이 공유한다는 것을, 공부를 조금만 해본 사람이라면 아주 쉽게 느낄 수 있다.
시장미시구조 이론은 사실 처음 접하기에는 뭔가 다소 부담스러운 영역임에는 틀림없다. 하지만 그것은 그 내용의 어려움 때문이라기보다는 우리에게 아직 익숙지 않음에 기인하는 것이 훨씬 크다. 하지만 시장미시구조 이론 또한 결국은 금융공학의 한 갈래이자 금융공학이라는 거대한 담론 속의 일부다. 그렇기에 그 계보를 시간 역순으로 거슬러 올라가면서 그 고유의 역사를 반추하다 보면, 어느 순간 이를 직관적으로 받아들여 편안해진 우리의 모습을 마주하게 될 것이다. 금융공학에도 역사가 필요한 이유다.
