[경제] 경제학, 엔트로피 업고 튀어

편집부원 신서영

Jan 26. 2025

“ Entropy…? ”

많은 사람들이 한 번쯤 들어봤을 “엔트로피(Entropy)”는 익숙하지만 쉽게 이해하기는 어려운 개념이다. 아인슈타인이 “모든 과학에 있어 제1법칙”이라고 주장한 엔트로피는 열역학 제2법칙에서 등장한다. 열역학 제1법칙은 우주 안의 모든 물질과 에너지는 불변하며 이에 따라 창조될 수도 없고 그 형태만 바뀔 뿐이라고 말한다. 엔트로피에 대해 설명하는 열역학 제2법칙은 물질과 에너지가 질서 있는 상태에서 무질서한 상태로, 유용한 상태에서 무용한 상태로, 즉 오직 한 방향으로만 변한다고 규정한다. 다시 말해, 우주 안의 모든 물질과 에너지들은 일정한 구조와 질서에서 시작해 무질서와 혼돈의 상태로 나아가며 이 방향을 거꾸로 되돌리는 것은 불가능하다는 것이 열역학 제2법칙이 의미하는 바이다.

엔트로피는 어떤 시스템 내에서 질서 있거나 유용한 무언가(이를테면 에너지)가 무질서하고 무용한 형태로 바뀌는 정도를 재는 척도인데, 여기서 중요한 것은 “어떤 시스템 내에서”라는 표현이다. “어떤 시스템 내에서”라는 말은 엔트로피가 열역학 또는 물리학 법칙에 국한되지 않는다는 의미이다. 실제로 엔트로피는 물리학을 넘어, 사회학, 정보학, 경제학 등 다양한 분야에서 응용되고 있다. 이 글에서는 물리학에서만 사용될 것 같던 엔트로피가 경제학에서 어떻게 사용되고 있으며, 이를 통해 우리가 무엇을 배울 수 있고, 우리에게 어떤 의미를 가지는지 알아보고자 한다. 더불어 엔트로피가 가지는 경제적 가치와 엔트로피를 바탕으로 구상된 새로운 경제관의 등장도 살펴보고자 한다.

물리학을 넘어 정보이론으로

엔트로피를 더 잘 이해하기 위해서는 엔트로피라는 개념을 확장한 섀넌의 정보 엔트로피에 대해 먼저 알아보아야 한다. 정보 이론에서 엔트로피는 정보의 불확실성을 측정하는 지표이다. 클로드 섀넌이 제안해 “섀넌 엔트로피”라고도 불리는 정보 이론에서의 엔트로피는 어떤 사건의 발생 가능성에 대한 정보량, 즉 불확실성을 수량화하는데, 이때 각 사건들이 발생할 확률에 기반하여 불확실성을 계산한다. 특정한 사건이 발생할 확률이 높다는 것은 그 사건의 발생 가능성에 대한 불확실성이 낮아 정보량이 많다는 의미이므로 엔트로피가 낮고, 반대의 경우에는 엔트로피가 증가한다. 한마디로 정보는 불확실성, 어려움, 엔트로피였다. 최종적으로 섀넌은 기존의 정보량(기호 또는 문자들이 상이한 확률을 가지고 있지 않을 때의 엔트로피)보다 더 적은 정보량으로 정보 전달이 가능함을 보였고 이는 섀넌의 다른 연구결과들과 함께 정보이론을 구체화하는 데에 큰 역할을 했다.

정보이론에서 섀넌은 확률 함수로 정보를 측정하는 명쾌한 해결책을 내놓는다. 바로 로그 가중치를 둔 확률의 합을 구하는 공식이었다. 이는 메시지의 불가능성을 보여주는 평균 로그로 사실상 의외성의 척도였다. 아래 수식에서 p(x)는 각 메시지의 확률을 가리킨다. 이 공식의 값은 정보이론에서 정보 선택 불확실성의 척도로서 중심적인 역할을 한다고 섀넌은 주장했다. 실제로 H는 어디에나 존재하며 통상적으로 섀넌 엔트로피라고 불렸다.

AD_4nXfA6eBwA15YoKpkr7l4cdF8MCzryVvXkihWtVaH2ixGsz4vvmhsm-YSf7sH-JGMu1yP3-wWt94-6uomYGnyXwftpft1vGn0WJGr--1no2I6_-k2T5_tryUIuRVilXGkZ4NJIC3jHFIfCnXoUjw07bE?key=LhLgvaNN-vlKqdqfnPRfoTZd

그림 1 섀넌 엔트로피

섀넌 엔트로피에 대한 추가적인 설명에 앞서 해당 개념을 조금이라도 더 잘 이해할 수 있도록 이를 쉽게 서술하고 있는 ‘인포메이션’의 표현들을 이 문단에 빌려왔음을 밝힌다. 섀넌은 “결과로 나온 단위는 이진수 혹은 더 간단하게 비트로 부를 수 있다.”라고 말했는데 여기서 1비트는 가능한 최소 정보량, 즉 동전을 던질 때 나오는 불확실성의 양을 뜻한다. 32자로 구성된 문자 중에서 무작위로 한 글자를 전달할 때 가능한 32개의 메시지가 있고, 32의 로그가 5이므로 5비트이다. 또한 이러한 글자 1000자는 5000비트를 전달한다. 만약 1000자로 된 메시지가 영어 텍스트라면 가능한 메시지의 수는 훨씬 적은데 이는 자연어의 통계적 구조가 개입되기 때문이다. 그래서 섀넌이 여덟 글자까지의 상관관계를 살핀 결과, 메시지에 새로 포함되는 각 글자는 5비트가 아니라 약 2.3비트의 정보만 전달한다. 다시 말해, 5비트가 아니라 2.3비트만을 사용해 해당 정보를 충분히 전달할 수 있다는 것이다. 비트 수의 감소는 곧 정보량의 감소, 즉 엔트로피의 감소를 의미한다.

엔트로피, 경제학으로 범위를 넓히다

앞에서 엔트로피가 물리학의 범위를 넘어 정보와 같은 다른 분야에도 충분히 적용될 수 있음을 확인했다. 그리고 정보이론에서의 엔트로피는 타 분야로의 확장에 있어 가장 기본적인 개념이자 가장 큰 기반이 되었다. 그렇다면 경제학은 어떨까? 엔트로피가 경제학이라는 분야에도 적용될 수 있을까? 엔트로피가 다양한 분야에 적극적으로 활용되기 시작하는 흐름 속에서 루마니아의 경제학자 니콜라스 게오르게스쿠-뢰겐이 1971년 ‘The Entropy Law the Economic Problem’을 발표하면서 엔트로피라는 개념이 본격적으로 경제학 분야에서도 등장하게 되었다. 또한 최근에는 엔트로피를 사회학과 경제학적 관점에서 바라본 제레미 리프킨의 엔트로피의 글이 많은 사람들의 관심을 집중시키면서 엔트로피를 경제학 관점에서 심층적으로 이해하고자 하는 시도가 더욱 확대되고 있다.

그림 2,3 니콜라스 게오르게스쿠-뢰겐, 제레미 리프킨

니콜라스 게오르게스쿠-뢰겐과 제레미 리프킨을 통해 엔트로피가 경제학적 관점에서 어떻게 파악되고 경제학 분야에 적용 가능한지 파악해 볼 수 있는데, 이를 쉽게 이해하기 위해서는 먼저 에너지(Energy)와 인플레이션(Inflation)을 엔트로피 관점에서 바라볼 필요가 있다. (이 글은 전공 논문이 아니므로 복잡한 부분과 formula는 생략하고 핵심적인 부분만 최대한 간단하고 쉽게 이야기하고자 한다.) 인플레이션은 어떤 환경의 엔트로피 상태를 측정한 결과이며, 모든 경제활동을 거슬러 올라가면 그 시대를 지배하는 에너지원으로 귀결되기 때문에 인플레이션의 원인은 에너지라고 제레미 리프킨은 말한다. 과거의 에너지 흐름에서 발생한 무질서는 계속 축적되며 이러한 무질서를 통제하고 관리하는 비용뿐만 아니라 아직 남아있는 에너지 추출 및 처리에도 더욱 많은 비용이 요구된다. 결국 에너지 사용이 증가하는 무질서로 인한 비용을 포함한 정치 경제 사회적 비용의 형태로 나타남에 따라 가격 상승의 고통이 발생하고 에너지 환경이 완전 고갈을 향해 다가가며 인플레이션이 격심해진다는 것을 알 수 있다. 이와 더불어 모든 경제활동을 돌이켜보면 그 시대를 지배하는 에너지원으로 귀결되기에 인플레이션의 원인은 에너지라고 설명할 수 있다.

어떤 환경이 엔트로피 극대점을 향해 다가갈수록 에너지 흐름의 모든 과정에서 이루어지는 활동의 비용은 상승하는데 앞서 말한 것처럼 에너지를 사용할수록 새로운 에너지원을 찾거나 기존의 에너지를 계속해서 추출 및 처리하는 것이 점점 어려워지기 때문에 에너지 변환 비용은 올라간다. 결과적으로 사회의 각 분야, 집단, 개인 사이의 에너지 교환 비용도 추출 및 처리 비용의 상승을 반영하여 올라가게 되고 끝에는 에너지 관련 비용이 전체적으로 증가하게 된다. 또한 에너지 흐름 과정 전체에서 축적되는 경제 및 사회적 무질서에 대한 통제 필요성이 커지면서 정부기관들도 점점 비대해지는데 이러한 경우 자체 조직을 유지하는 데 점점 더 많은 비용을 필요로 하게 되어 조세부담은 증가하고 인간에게 봉사하는 에너지 흐름은 줄어들게 된다.(이와 함께 제레미 리프킨은 사회 경제적 무질서에 대한 비용도 납세자의 몫으로 돌아가고 실업도 엔트로피 과정의 이면에 불과함을 언급하지만 분량 및 중요도상 해당 부분은 생략하기로 한다.) 여기서 제레미 리프킨이 궁극적으로 주장하는 바는 앞에서 설명한 흐름 속에서 국민에게서 에너지를 빼앗아 경제 및 정부 조직을 유지하고 확장하는 데 쏟아붓는 악순환은 더욱 빨라지고 결국 사회 메커니즘 전체가 엔트로피 분수령을 향해 곤두박질치게 된다는 것이다.

엔트로피와 경제학

이러한 주장을 바탕으로 두 사람은 지금까지의 경제학이 주장한 물질적 진보를 환상에 불과하다고 말한다. 지금까지의 경제학은 우리가 엄청난 진보를 이루어왔으며 진보는 ‘영원’하다는 확신에 차 있지만 이 모든 것은 결국 환상이며 이러한 환상을 깨뜨리는 것이 바로 열역학 제2법칙인 엔트로피라고 주장한다. 오늘날의 경제학 및 경제체제는 물리적으로 더욱 가치 있는 세계를 창조해 내는 것이 아니라 그 세계를 창조해 내기 위해 발생되는 무질서를 보고 있지 못하는 것에 불과하다는 것이다. 다시 말해, 그들은 현재의 경제 시스템은 부가가치 생산과 국지적인 엔트로피에만 초점을 맞추고 있으며 전체적인 엔트로피의 분산 및 증가에는 관심이 없다는 점을 강조한다.

결국 그들이 말하고자 하는 바는 “우리가 무언가를 생산하기 위해 유용한 물질과 에너지의 일부를 사용하면 그 생산과정에서 발생하는 무질서가 생산을 통해 얻는 질서보다 더욱 크며 해당 무질서로 인한 비용을 지불해야 하고 후대가 사용할 수 있는 에너지는 감소한다는 것”이다. 조금 더 구체적으로 설명해 보자면 어떠한 제품의 생산과정에서 인간과 기계의 노동을 통해 에너지나 일을 증가시키는 엔트로피는 감소하지만 상품의 가치는 상승한다. 그러나 이 과정으로 인해 다른 어딘가에서는 더욱 큰 무질서가 발생한다는 것이 엔트로피 법칙이 경제학에서 의미하는 바이다. 따라서 생산과정에서 생산성이 향상된다는 것은 궁극적으로 사회 전체의 관점에서는 비용을 지불해야 하는 무질서도 함께 커진다는 뜻이다.

조금 더 간단하게 정리해 보자면 에너지의 사용은 사회 전체적인 관점에서의 무질서 증가와 이에 대한 비용 증가를 가져올 뿐만 아니라 이와 함께 에너지 관리 등과 관련한 비용 증가도 발생시킨다. 이러한 비용 증가로 인해 인플레이션이 점점 격심해지는데 이때 인플레이션은 어떤 환경의 엔트로피 상태를 측정한 것이므로 엔트로피는 증가하는 방향으로 움직인다는 열역학 제2법칙과 합치하는 결론을 가지게 된다. 이와 함께 결과적으로 그동안 경제학이 말하던 물질적 진보는 일어나지 않았으며 오히려 무언가를 생산하기 위해 에너지를 사용하게 되면 그로 인해 발생하는 무질서 및 비용이 생산을 통해 얻는 질서와 비용보다 훨씬 크다. 그리고 이 역시 열역학 제2법칙의 내용에 해당함을 확인할 수 있다. 이러한 방식으로 엔트로피라는 개념은 경제학에 적용될 수 있으며 본 글에서 다룬 제레미 리프킨과 니콜라스 게오르게스쿠-뢰겐의 주장과 다른 방식으로도 엔트로피라는 개념이 경제학에서 활용될 수 있는 가능성 또한 충분히 존재한다.

엔트로피, 금융과 만나다

엔트로피가 경제학에서도 사용할 수 있는 개념이 되면서 금융 분야에서도 엔트로피라는 개념을 사용하고자 하는 시도가 이어졌다. 금융 분야에서 사용되는 개념은 엔트로피 중에서도 주로 섀넌 엔트로피(정보 엔트로피)가 사용되는데, 이는 정보이론에서 사용되던 엔트로피 개념의 확장으로 이해할 수도 있다. 정보 엔트로피의 개념이 금융 분야에 처음 등장한 것 역시 니콜라스 게오르게스쿠-뢰겐이 경제학을 설명하는 요소로 엔트로피를 활용한 ‘The Entropy Law the Economic Problem’이다. 이후 금융 시장에서 수익률과 같은 경험적 분포가 정규성을 따르는 것이 일반적이지 않다는 것이 밝혀지자 이에 대한 대책으로 엔트로피를 비롯한 경제물리학적 접근 방식이 금융 시장 방식에 활용되기 시작했다.

금융 분야에서 엔트로피는 자산 가격을 책정하거나 포트폴리오를 선택할 때 중요한 도구로 활용될 수 있다. 정보 엔트로피 개념을 바탕으로 시장의 효율성 및 비효율성을 측정하기도 하고 금융시장에서의 변동성을 평가하는 방법의 대안으로 엔트로피가 활용되기도 한다. 선물과 스와프와 같은 파생상품의 가격 결정에서도 엔트로피라는 개념이 적용되고 있다. 또한 엔트로피가 높은 주식은 다른 주식보다 위험하다고 간주되는데 일부 분석가는 베타보다 엔트로피가 더 나은 위험 모델을 제공한다고 주장하기도 한다. 또한 이러한 정보 엔트로피 개념을 바탕으로 한 금융 시장 분석은 금융 시장 또한 일종의 정보 집합체라고 인식하는 관점에서 시작되는데, 이러한 접근 방식은 금융분석에 있어 대표적인 경제물리학적 접근으로 여겨진다.

엔트로피의 경제적 가치와 새로운 경제관

열은 항상 뜨거운 쪽에서 차가운 쪽으로 이동한다. 반대로 이동하는 일은 절대로 발생하지 않는다. 이 단순하고 분명한 사실은 열역학과 물리학을 넘어 정보, 경제학, 사회학, 심리학, 정치학, 심지어 예술에까지 이용되며 많은 주목과 관심을 받고 있다. 본 글에서는 그중에서도 경제학과 엔트로피의 만남에 대해 이야기했는데, 1971년 니콜라스 게오르게스쿠-뢰겐을 시작으로 경제학 분야에서 점점 더 적극적으로 활용되어 가는 엔트로피는 앞으로의 가능성이 더욱 기대된다. 이미 정보 엔트로피라는 개념을 바탕으로 엔트로피라는 개념이 경제학에서 많이 이용되고 있지만 제레미 리프킨과 니콜라스 게오르게스쿠-뢰겐에 의하면 엔트로피의 진정한 경제적 가치는 기존의 경제관을 완전히 뒤바꿀 수 있는 힘을 가지고 있다는 점이다.

에너지를 쓰지 않고 일을 할 수 있는 엔진을 만들고자 했던 사람들의 꿈은 열역학 1법칙 앞에서 무너졌고 단 하나의 원천에서 나오는 열에너지만으로 가동되는 엔진을 만들고자 했던 사람들의 꿈은 열역학 제2법칙에 의해 부정되었다. 결국 물질과 에너지는 기존의 것이 없다면 새롭게 생성해낼 수 없다. 그리고 이를 통해 ‘무용한 것’으로부터 ‘유용한 것’을 만들어낸다고 믿었던 기존의 경제관은 흔들리게 된다고 제레미 리프킨과 니콜라스 게오르게스쿠-뢰겐은 말한다. 다시 말해, 우리는 그저 ‘유용한 것’으로부터 ‘유용한 것’을 만들고 있었을 뿐이라는 의미이다. 그리고 그 ‘유용한 것’은 끝내 ‘무용한 것’이 된다. 결과적으로 경제학 분야에 엔트로피 개념의 도입은 새로운 시각과 기존과는 사뭇 다른 경제관에 대한 논의를 불러일으켰고 이는 경제학이 한 발자국 앞으로 내딛는 또 다른 기회가 될지도 모른다. 엔트로피가 앞으로 어떻게 얼마나 적극적으로 경제학에 이용되어 경제학이라는 분야에서 어떠한 그림을 그려낼지 벌써부터 궁금해진다. 우리는 분명 언젠간 엔트로피가 가져온 경제학의 도약을 만나게 될 것이다.

참고문헌

논문

최인수, 김우창, 「엔트로피 기반 인과관계 네트워크의 모듈성을 활용한 상품 선물 시장의 EDaR 변동 예측 모형 개발」, 한국정보처리학회 학술대회논문집, 29권 1호, 2022, pp. 370-373.

Andrey Shternshis외 2인, 「Measuring market efficiency: The Shannon entropy of high-frequency financial time series」, Chaos, Solitons & Fractals, Volume 162, 2022