brunch

You can make anything
by writing

C.S.Lewis

by 퀀트대디 Apr 15. 2024

HFT 전략의 핵심, 지정가 주문과 체결률

# 높은 위험 조정 수익률을 제공하는 HFT

대부분의 투자자들은 고빈도 매매 전략의 손익을 본 적이 없을 것이다. 물론 그 이유가 있다. 고빈도 매매 전략의 일반적인 수익률 특성을 고려할 때 HFT 트레이딩 회사는 외부 자본, 즉 고객들의 자금이 거의 필요하지 않기 때문이다. 게다가 고빈도 매매 전략은 전략의 특성상 다른 헤지펀드들 보다 훨씬 더 자금 수용력에 한계가 있기에 그 성과가 더욱더 베일에 싸여 있다.


따라서 HFT 전략의 트랙 레코드를 처음 접한 투자자들의 반응을 살펴보는 것은 매우 재미있는 일이다. 왜냐하면 1~2 정도의 샤프 비율, 혹은 운이 좋으면 샤프 비율이 3까지 나오는 것에 익숙한 장기 시계열의 퀀트 투자자들에게 두 자릿수의 샤프 비율을 가지고 있는 HFT 전략은 그야말로 가히 놀라움을 금치 못하게 하기 때문이다.


평균 승률이 55% 정도이며, 계약당 평균 수익은 0.6 틱 정도로 그 크기도 크지 않지만, HFT 전략이 이처럼 높은 샤프 비율을 달성할 수 있는 이유는 바로 많은 거래 횟수 때문이다. 이러한 많은 거래 횟수는 대수의 법칙에 의해 이론적 기댓값을 실제 손익으로 치환시킨다. 비유하자면 HFT 전략은 아주 빠른 속도로 카지노 사업을 운영하는 셈이다.


HFT 알고리즘이 만들어내는 엣지는 언뜻 보기에 매우 작을 수 있으나, 수천, 수만 번의 거래를 통해 확대된 이러한 아주 작은 엣지는 상당한 수익을 내기에 충분하다. 또한 리스크가 아주 작은 시간 단위로 분산되어 있기 때문에 위험 조정 기준 수익률이 눈에 띄게 높아진다. 고빈도 매매 전략의 샤프 비율이 굉장히 높은 이유는 바로 이 때문이다.



# 지정가 주문

하지만 이러한 높은 샤프 비율을 달성하기 위해서는 전제 조건이 한 가지 필요하다. 그것은 바로 실제 체결 과정에서 지정가 주문(Limit Order)을 사용해야 한다는 것이다. 왜 그럴까? 그 이유는 HFT 전략의 알파 시그널은 확실히 그 효력을 가지고 있으나 통상적으로 그 크기가 1틱을 넘지 못하기 때문이다. 다시 말해, 거래당 평균 1틱 미만의 수익을 내는 HFT 트레이딩 시스템에서는 시장가 주문으로 인해 발생하는 슬리피지를 감당할 수가 없다.

시장 미시구조 시그널의 강도 vs. 시장가 주문의 슬리피지

따라서, HFT 전략의 진입과 청산은 지정가 주문을 통해 이루어진다. 시장 미시구조 이론에서 흔히 이야기하는 가격 충격(Price Impact) 효과는 실제로 존재하지만, 그것의 존재를 증명하는 것과 이를 통해 실제로 수익을 창출해 내는 것은 아예 다른 차원의 문제다. 매수-매도 스프레드가 가격 충격 효과보다 크기 때문에 시그널이 존재한다는 것만 믿고선 무지성 시장가 주문을 때려버리면 계좌는 업진살 마냥 살살~ 녹게 된다.

물론 저빈도 전략에서도 거래 비용을 최소화하기 위해 효율적인 매매 체결 시스템을 구현하는 것은 중요하다. 하지만 전략의 알파와 체결 효율 간의 상대적 기여도를 굳이 비교하자면 저빈도 전략에서는 80%가 전략의 알파, 나머지 20%가 체결 효율이다. 저빈도 전략에서는 거래 비용을 지불하는 시장가 주문을 사용하더라도 한 번의 거래로부터 얻게 되는 기대 수익의 크기가 거래 비용보다 훨씬 크다. 하지만 고빈도 전략은 그렇지 않다. 고빈도 전략은 매매 체결에 매우 크게 의존하며, 이는 전체 수익 기여도의 80% 이상을 차지한다.



# 체결률에 대한 고민과 HFT 인프라

따라서 지정가 주문의 충분한 체결률(Fill Rate)을 확보하는 것은 결국 고빈도 전략의 핵심이다. HFT 전략은 지정가 혹은 IOC 주문을 사용하여 체결이 이루어지기에 이 중 일정 비율만 체결된다. 만약 트레이딩 시그널에 알파가 존재한다고 하면 거래 횟수에 정비례하여 손익은 증가하는데, 이는 또다시 체결률에 따라 달라진다. 만약 리테일 플랫폼에서 거래하는 것처럼 지정가 주문에 대한 체결률이 낮다면 이는 모든 HFT 전략의 수익성을 떨어뜨리는 원인으로 작용할 수 있다.


대부분의 경우 HFT 알고리즘은 기초자산 가격의 상승 혹은 하락에 대한 조건부 확률을 추정하고 그에 따라 매수 및 매도 호가의 위치를 지정한다. 만약 적절한 체결률을 보장하기 위해 주문을 호가창 대기열의 앞쪽에만 배치할 수 있다면 나머지는 대수의 법칙이 알아서 처리한다. 따라서 HFT 환경에서는 지연 시간(Latency)을 줄이고 지정가 주문에서 우선순위를 확보하기 위한 기술을 개발하는 데 많은 노력을 기울인다.


기본적으로 대부분의 리테일용 백테스팅 플랫폼이 HFT에 적절하지 않은 이유는 호가 막대의 가장 끝에 있는 주문을 포함한 모든 지정가 주문들이 체결된다고 가정하기 때문이다. 하지만 이는 매우 비현실적인 일이다. 많은 경우 대기열  앞쪽에 위치한 주문들만이 체결되고 최우선 호가가 바뀌게 되면 우선순위가 낮은 주문은 대부분 체결되지 않는다. 만약 트레이더가 HFT 플랫폼이 아닌 리테일용 시스템을 사용해서 거래를 체결하려 한다면, 시스템의 지연 시간은 길어지므로 해당 지정가 주문은 거의 항상 대기열의 뒤쪽에 위치하게 된다. 결과적으로 이러한 지정가 주문들 중 상당수는 체결되지 않는다.


문제는 지정가 주문이 체결되지 않아 다수의 거래를 놓치게 되면 HFT 전략에 치명적인 결과를 초래할 수 있다는 점이다. 다시 한번 강조하지만, HFT 전략을 성공적으로 실행하기 위한 핵심은 어느 정도 유의미한 체결률을 확보하는 것이다. 실제로 HFT 전략 수익성은 수익성 있는 거래를 놓쳐서 발생한 손실과 청산 주문이 체결되지 않아서 발생한 거래 손실의 조합으로 인해 감소하게 된다. 유의미한 체결률이 보장되지 않는다면 HFT 전략은 살아남을 수 없다.


결과적으로 알파 시그널을 가지고 있는 HFT 트레이딩 전략을 개발하는 것은 반쪽짜리 그림에 불과하다. 시그널로부터 파생되는 수익성을 실체화시키려면 트레이딩 인프라를 구축하는 것 또한 매우 중요한 이슈다. HFT 회사들이 수천만 달러 혹은 수억 달러를 들여 최고의 인프라를 만들고자 하는 이유는 바로 이 때문이다. 따라서 HFT의 세계에서는 소프트웨어적인 요소뿐만 아니라 코로케이션(Co-location) 같은 하드웨어적인 요소들 또한 중요하다. HFT 회사들이 기술에 대한 군비 경쟁을 게을리할 수 없는 이유다.

매거진의 이전글 시장 미시구조 이론의 기원
브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari