"현대 금융시장의 진화와 패러다임 변화"
Key Points
금융에서 혁신적인 변화는 단순한 데이터 추가만으로 이루어지지 않습니다. 기존의 과학적 지식과 탐구의 틀을 완전히 재구성하는 것이 필요합니다.
Modern portfolio theory(MPT)과 같은 신고전파 금융의 주요 이론들은 항상 실증적 데이터에 의해 뒷받침되지 않습니다. 오히려 이러한 차이는 이 이론들이 변화적인 성격을 지니고 있음을 보여줍니다. 이론과 현실의 간극에서 수익이 창출될 수 있습니다.
퀀크 금융에서 데이터나 이론에 대한 과도한 의존이 어느 정도 역할을 할 수 있지만, 데이터와 이론을 혼합하는 베이지안 접근법이 보다 지속적인 통찰을 얻는 데 유리할 수 있습니다.
행동 금융과 신고전파 금융은 시장의 효율성 여부와 같은 근본 개념에서 차이를 보입니다. 그러나 한 가지 관점이 다른 관점보다 우월하다는 의미는 아닙니다. 두 관점 모두 시장에 대한 이해를 심화하는 데 기여할 수 있습니다.
(본 내용은 Journal of Portfolio Management 50주년 특별판에 기여한 내용을 바탕으로 한 시리즈의 일부입니다.)
Introduction
과학사와 과학 철학의 역사적 서적 "The Structure of Scientific Revolutions(1962)"에서 Thomas S.Kuhn은 “paradigm shift”라는 용어를 사용해 과학의 진보 경로를 설명했습니다. 쿤에 따르면, 과학은 지식의 직선적 축적이 아닌, 주요 과학 사상가들의 기본 개념에서 일어나는 일련의 혁명적인 변화로 진행됩니다. 과학적 사상은 기존 합의(패러다임) 내에서 발전하는 "normal science"의 기간을 거치며, 이 패러다임 내 모순이 쌓이면 위기가 발생하고, 이를 해결하는 새로운 이론과 아이디어가 등장하여 이전의 틀이 새로운 틀로 빠르게 대체되는 패러다임 전환이 일어납니다. 금융 분야에서도 이러한 패턴은 반복되어 왔습니다.
쿤은 이러한 혁명적 변화가 단순한 인지적 변화에 그치는 것이 아니라 사회학적으로도 영향을 미친다고 주장합니다. 새로운 패러다임이 받아들여지기 위해서는 과학 공동체의 헌신과 관행에서의 변화가 필요하기 때문입니다. 이러한 혁신적 변화는 단순한 데이터만으로 이루어지지 않으며, 과학적 관찰과 이해를 뒷받침하는 개념적 구조의 전면적인 재정비가 필요합니다.
쿤의 연구는 진화생물학자 스티븐 제이 굴드와 나일스 엘드리지의 “중단 평형(punctuated equilibrium)” 개념을 예견했습니다. 굴드와 엘드리지(1972)는 진화가 급격한 변화(단절)와 안정기(평형)가 교차하는 방식으로 일어나는 경우가 많다고 주장했습니다. 중단 평형은 경제학이라는 “암울한 학문”의 세계에서도 금융 분야의 진보를 촉진합니다.
처음에는 어떤 아이디어가 좋은지 나쁜지 알 수 없습니다. 아이디어가 격렬한 비판 속에서 그 가치를 입증하면 결국 받아들여집니다. 혁신적인 개념은 도전받은 후 사실로 받아들여지고, 결국 통념, 때로는 신화가 되기도 합니다. 이러한 개념들 중 일부는 후에 도전을 받고, 뒤집혀지며, 과학의 중단 평형을 입증합니다.
The Origins of Modern Portfolio Theory
1950년대와 1960년대에 개발된 이론들은 현재 금융 시장을 이해하는 데 기초가 되었습니다. 해리 마코위츠는 1952년 포트폴리오 선택, 평균-분산 최적화, 효율적 프런티어 연구를 통해 현대 포트폴리오 이론(MPT)을 도입했으며, 1956년에 이를 더욱 정교하게 다듬었습니다. 1960년대에는 마코위츠의 연구를 바탕으로 여러 혁신가(잭 트레이너, 윌리엄 샤프, 존 린트너, 얀 모신)가 자본 자산 가격 결정 모델(CAPM)을 개발했습니다. CAPM은 균형 상태에서 기대 수익이 시장 베타의 선형 함수여야 한다고 제시합니다.
1970년, 유진 파마는 효율적 시장 가설(EMH)을 도입하고, 1976년 저서를 통해 이를 더욱 확장했습니다. 1970년대와 1980년대에 걸쳐 CAPM의 단일 주식 시장 베타 예측이 불완전하다는 사실이 밝혀졌습니다. 1976년, 스티븐 로스는 여러 팩터들이 개별 증권 수익률에 영향을 미치는 자산 가격 결정 모델인 Arbitrage Pricing Theory(APT)을 제안했습니다. 1980년대에는 나이푸 첸, 리처드 롤, 로스가 다수의 팩터들이 실제로 증권 수익률을 결정한다는 설득력 있는 증거를 발표하여 팩터 기반 전략의 기틀을 마련했습니다.
어떤 학문이 과학이 되려면 반증 가능한 이론을 제시해야 합니다. 역설적으로, MPT, EMH, CAPM이 항상 실증적 데이터를 지지하지 않는다는 사실 자체가 이러한 이론들이 혁신적이며 현대 금융의 과학적 토대로서의 중요성을 뒷받침해줍니다. 상반되는 데이터는 이론과 자본 시장의 실제 행동 사이의 차이를 강조할 수 있습니다. 예를 들어, CAPM에서 APT로, 그리고 APT와 상충하는 여러 요인과 이상 현상으로의 전환은 현대 금융에서 과학적 진보의 중단 평형을 보여줍니다.
이러한 차이는 아비트리지로 사라지기 전까지 투자자들에게 수익의 중요한 원천이 될 수 있습니다. 파마(1976)는 EMH에 대한 모든 테스트는 사실 EMH와 특정 자산 가격 결정 모델을 결합하여 효율성을 테스트하는 것이라고 주장합니다. 파마와 프렌치의 3Facor Model(1992, 1993) 덕분에 EMH는 새로운 형태로 재조명되었으며, 일부 투자자는 시장보다 더 높은 수익을 얻기 위해 소형주나 저가 가치주와 같은 덜 주목받는 주식에 투자하는 것을 선호하게 되었습니다.
Behavioral Finance Emerges
1990년대에 리처드 탈러는 대니얼 카너먼과 아모스 트버스키의 행동 경제학 연구를 적용하고 확장하여 단일 가격 결정 모델뿐만 아니라 EMH(효율적 시장 가설)와 CAPM(자본 자산 가격 결정 모델)의 합리적 의사 결정 가정도 의문시했습니다. 탈러와 다른 연구자들은 인간의 의사 결정 과정이 샤프의 단일 요인 모델이 암묵적으로 가정하는 것보다 훨씬 복잡하다는 설득력 있는 연구를 발표했습니다.
효율적 시장은 사실이 아니라 가설입니다. 세계가 작동해야 하는 방식에 대한 매력적인 모델일 뿐입니다. EMH가 시대에 뒤떨어지지 않도록 하기 위해 연구자들은 이제 시간, 자산군, 개별 자산에 따라 달라지는 리스크 프리미엄을 가정합니다. 여기서 한 가지 의문이 제기됩니다.
비효율적인 시장과 리스크 프리미엄이 시간이나 자산마다 달라지는 시장 사이의 차이는 무엇일까요?
파마조차도 시장이 100% 효율적이라고 주장하지 않지만, 학계는 최소한 1990년대까지 EMH를 현실 세계의 건전한 근사치로 받아들였습니다. 그러나 오늘날에는 이 점이 상당히 다릅니다. “noise in price” 모델이 더 현실을 잘 반영하며, 공정 가치가 랜덤 워크를 따르고 가격이 공정 가치에 평균 복귀 오차가 더해지거나 뺀 값이 된다는 개념이 많은 이상 현상을 설명합니다. 이는 비효율성이 안정적이라는 의미가 아닙니다. 비효율성이 발견되면, 그 차이를 이용한 차익 거래로 인해 사라지기 마련입니다.
따라서 시장 효율성에 대한 학문적 논쟁은 여전히 해결되지 않았습니다. 평균-분산 최적화에서 벗어난 새로운 가격 결정 이상 현상과 행동적 편차가 나타날 때마다, 시간이 지남에 따라 달라질 수 있는 투자자 선호를 설명하는 더 복잡한 가격 결정 모델이 등장합니다. 제레미 시겔(2006)은 이러한 과정을 지구 중심 모델에서 멀어지는 행성 움직임을 설명하려 했던 코페르니쿠스 이전의 "epicycles"에 비유했습니다. 단순한 태양 중심 모델이 더 잘 작동했음에도 말입니다. “가격의 소음”이 요인 주전원(epicycles)이 포함된 EMH보다 더 단순하고 강력하지 않을까요?
The Evolution of Finance Is Ongoing
금융과 투자 이론의 기초가 반세기 전에 확립된 이후, 우리는 퀀드 금융 커뮤니티가 작은 변두리에서 자산 관리에서 지배적인 힘으로 떠오르는 것을 목격했습니다. 자본 시장의 주요 목적인 가격 발견 과정을 이용하는 “투자 사회주의(investment socialism)”라는 비판에도 불구하고 패시브 관리가 크게 증가했습니다. 그 과정에서 새로운 아이디어들이 사실로 받아들여졌다가 도전을 받고, 일부는 결국 폐기되었습니다. 스마트 베타와 팩터 투자가 열광적으로 수용되었다가, 의심받고 신중하게 재고되는 모습을 보았습니다. 투자 과학에 대한 심도 있는 관심과 함께 금융의 구조적 틀도 변했습니다.
최근에는 새로운 도구와 빅데이터의 급격한 등장이 있었습니다. 분석가는 줄어들었지만 정보의 질과 양은 크게 증가했습니다. 인공지능(AI)은 현재의 혁명적 기술입니다. AI는 새로운 것이 아니며, 수십 년 동안 존재해 왔으나 그 능력은 기하급수적으로 성장하고 있습니다. 무어의 법칙은 여전히 유효합니다! AI는 수년간 고빈도 거래(HFT)에 사용된 알고리즘을 정교하게 발전시켜 왔습니다. 사용하기 쉬운 AI가 새롭게 등장한 혁신입니다. 앞으로 수십 년 동안 AI는 상상할 수 없을 만큼 우리 삶을 변화시킬 것입니다. 그러나 인터넷, 컴퓨터, 자동차, 기차, 전신과 같은 혁신적 기술들과 마찬가지로, AI는 우리의 세계를 예상보다 더 많이 변화시키지만, 예상보다 더 느리게 변화시킬 것입니다.
각 새로운 돌파구는 새로운 통찰을 가져오며, 일부는 탁월하고 일부는 결함이 있으며, 때로는 유혹적인 신화와 교리를 반박하거나 수정합니다. “과학적 방법”에 대한 간단한 검토는 이러한 신화가 등장하고 사라질 수 있음을 보여줍니다.
Scientific Method: Data-First vs. Theory-First vs. Bayesian Approaches
과학적 방법의 기원은 아리스토텔레스까지 거슬러 올라가지만, 오늘날 금융에서는 잘 이해되지도, 널리 사용되지도 않습니다. 사실, 과학적 방법은 편향 확인이 여전히 지배적인 "hard science"에서도 널리 사용되지 않습니다.
Hard Science는 다음과 같이 설명할 수 있습니다:
1. 정의:
- 엄격한 과학적 방법론을 사용하는 자연과학 분야
- 정확한 측정, 정량적 데이터, 반복 가능한 실험에 기반
- 수학적 모델과 객관적 검증이 가능한 가설을 중심으로 연구
2. 주요 특징:
- 높은 정확성과 예측 가능성
- 객관적이고 체계적인 연구 방법
- 실험을 통한 검증 가능성
- 수학적 모델링의 광범위한 활용
- 엄격한 통계적 분석
3. 대표적인 분야:
- 물리학
- 화학
- 생물학
- 천문학
- 지질학
- 수학
- 공학
4. Soft Science(연성 과학)와의 차이:
- Hard Science:
* 객관적 측정 가능
* 정확한 수치화 가능
* 실험 반복 가능
* 예측의 정확도가 높음
- Soft Science(예: 심리학, 사회학):
* 주관적 요소 포함
* 정확한 수치화 어려움
* 완벽한 실험 반복 어려움
* 예측의 불확실성 높음
5. 현대적 의미:
- 과학기술 발전의 핵심 동력
- 혁신적 기술 개발의 기반
- 다양한 산업 분야에 직접적 응용
- AI와 빅데이터 시대의 중요한 토대
이러한 Hard Science의 특성은 현대 과학 기술의 발전과 혁신에 핵심적인 역할을 하고 있습니다.
과학적 방법은 세계가 어떻게 작동해야 한다는 믿음(가설)에서 시작합니다. 우리는 이 가설을 증명하기 위해서가 아니라 배우기 위해 데이터를 사용해 냉정하게 테스트합니다. 하드 사이언스에서 가장 비판적인 평가 중 하나는 가설이 "반증 불가능하다"는 것입니다. 즉, 잘못되었다는 것이 입증될 수 없다는 뜻입니다. 따라서 아이디어를 테스트할 때, 다른 사람보다 먼저 자신의 가설을 반증하거나 결함을 찾는 것이 목표 중 하나입니다. 명백한 사실이지만, 백테스트를 개선하기 위해 백테스트를 사용하는 것은 과학적 방법과 정반대이며, 퀀트 커뮤니티에서 흔히 볼 수 있는 행위입니다.
퀀트 금융 내에서도 데이터 우선, 이론 우선, 베이지안 접근법이라는 세 가지 뚜렷한 접근 방식이 우위를 다투어 왔습니다.
데이터 우선(data-first) 방식은 팩터 커뮤니티에서 주로 사용되며, 자본 시장의 “이상 현상(anomalies)” 을 탐구한 수십 년간의 연구에서 발전했습니다. 방대한 양의 데이터를 조사해 새롭고 미지의 이상 현상이나 팩터를 발견하는 것은 학계에서 인정받는 데 도움이 됩니다. 타룬 촐디아, 아밋 고얄, 알레시오 사레토(2020)는 CRSP 데이터베이스를 사용하여 2백만 개의 무작위 팩터를 생성했습니다. 그중 가장 성과가 좋은 요인은 CAPM 알파에 대한 t-통계가 9.01입니다.
촐디아 등의 연구는 훌륭한 새로운 요인을 찾으려는 것이 아니라, 데이터 마이닝이 어떻게 우리를 잘못된 길로 이끌 수 있는지를 보여주려는 것입니다. 200만 개의 요인 중 가장 성과가 좋은 요인 중 하나는 (CSHO-CSHPRI)/MRC4입니다. 이게 도대체 무엇일까요?
물론, 아무리 통계적으로 유의미하더라도 이렇게 특이한 요인에 의존하는 합리적인 투자자는 없을 것입니다. 수백만 번의 테스트조차도 우리를 잘못된 방향으로 이끌 수 있습니다. 데이터 우선 접근법은 곧 데이터 마이닝을 의미하며, 끊임없는 데이터 마이닝은 과학적 방법이 아닙니다. 백테스트를 개선하기 위해 백테스트를 사용하는 것은 훌륭한 백테스트 결과를 가져올 수 있지만, 좋은 제품을 만들어내지는 않습니다.
데이터 우선 방식도 그 나름의 자리가 있습니다. 예를 들어, 고빈도 거래(HFT) 알고리즘을 개발하는 AI 응용 프로그램에는 데이터가 수십억 개에 이르기 때문에 사전 가설이 필요하지 않습니다. 그러나 데이터 샘플이 수천 개에서 수백만 개에 불과한 경우, 데이터 우선 접근은 위험할 수 있습니다. 금융과 경제학의 대부분의 연구는 일일, 월간, 분기별 데이터를 사용하며, 대부분의 연구에는 데이터 우선 접근을 안전하게 의존할 만큼 충분한 데이터가 없습니다.
이론 우선(theory-first) 방식은 현대 금융의 초기 단계에서 주도적이었으며, 여전히 학계에서 많은 지지를 받고 있습니다. 이론 우선 방식은 데이터를 무시하고, 데이터가 이론을 지지하지 않으면 데이터—즉, 이론이 아니라—잘못되었거나 특이치에 의해 영향을 받는 것으로 간주합니다. 시장은 효율적이며, 시장 비효율성의 증거는 무시됩니다. 기대 수익은 베타와 상관 관계가 있으며, 그 외의 증거는 중요하지 않습니다. 경제학 커뮤니티도 유사한 단견을 겪고 있습니다. 재정 및 통화 부양책은 성장을 촉진하며, 그 반대 증거는 중요하지 않다고 간주됩니다. 이론 우선 접근은 직관적으로 말이 되기 때문에 매력적입니다. 그러나 데이터가 거의 없는 영역에서나 베이지안 선호의 기초로서 이론 우선 방식이 나름의 자리를 차지할 수 있습니다.
데이터 샘플이 아주 많거나 거의 존재하지 않는 경우가 아니라면, 베이지안 접근(Bayesian approach)이 더 지속적인 통찰을 제공할 가능성이 큽니다. 베이지안 접근법은 데이터와 이론을 균형 있게 결합하며 어느 쪽에도 우위를 두지 않습니다. 이론은 검증할 실증적 테스트를 찾는 과정을 통해 개발되고, 이후 데이터로 테스트됩니다. 데이터를 사용해 이론을 개발하는 것은 아닙니다.
The Next Evolution in Finance?
마코위츠와 그의 동료들이 현대 금융의 주요 기둥을 세운 이후, 금융 시장에 대한 우리의 이해는 상당히 발전해왔지만, 이 분석이 보여주듯이 금융 분야의 많은 논쟁은 여전히 해결되지 않았습니다.
우리 산업의 학계와 실무자 커뮤니티 모두가 현 상태나 패러다임을 유지하려는 경향이 지나치게 강합니다. 많은 사람들이 “이것을 전제로 하면 저것을 결정할 수 있다”고 말하지만, 기본 전제를 의심하려는 사람은 너무 적습니다. 우리가 신뢰할 수 있는 자로서 고객에게 빚진 의무는 받아들여진 지혜(종종 고정 관념이 되는)를 덜 수용하고, 금융 이론의 근본 가정에 대한 오류가 어떤 의미를 가지는지 더 많이 탐구하는 것입니다. 이러한 기본 가정들은 검증될 때 종종 실패합니다. 결함이 있는 가정이 반드시 나쁜 것은 아닙니다. 오히려 그것은 최고의 학습 원천입니다. 이론, 받아들여진 지혜, 그리고 현실 사이의 많은 간극을 탐구함으로써 우리는 더 많이 배우고, 더 많이 벌 수 있습니다.
신고전파 금융이 시장의 효율성을 가정하고, 행동 금융이 반대로 가정한다고 해서, 편리하지 않은 이론을 버려야 할까요? 서로 양립할 수 없다고 보이는 이론들 속에서도 진리의 요소를 인정하는 것이 더 낫지 않을까요? 경제학은 물리학이 아닙니다. 신고전파 금융과 행동 금융 모두 중요한 통찰을 제공합니다. 이 가능성을 인정함으로써 우리는 시장에 대해 더 풍부한 이해를 얻을 뿐만 아니라, 금융의 다음 패러다임 전환을 촉진하고, 경제학이라는 ‘암울한 학문’의 한 부분을 진화의 다음 단계로 발전시키는 데 기여할 수 있을 것입니다.
<출처:researchaffiliates.com>
