AI가 세상을
수학적으로 이해하는 3가지
미분방정식과 DEVS 모델링 그리고 연동(Federation)
AI가 세상을 수학적으로 이해하는 3가지
미분방정식과 DEVS 모델링 그리고 연동(Federation)이 만드는 진짜 인공지능의 미래
▲ 체스 마스터가 된 AI, 그런데 왜 자율주행차는 사고를 낼까
1997년 IBM의 딥블루가 체스 세계챔피언 가리 카스파로프를 이겼을 때, 사람들은 AI가 인간의 지능을 넘어섰다고 생각했다. 하지만 27년이 지난 지금도 완전자율주행차는 여전히 상용화되지 못하고 있다. 2018년 우버의 자율주행차가 보행자를 치어 숨지게 한 사고나, 테슬라 오토파일럿의 크고 작은 사고들이 이를 보여준다.
왜 64개 칸의 체스판은 정복했지만, 현실 도로에서는 여전히 헤매는 걸까? 답은 간단하다. 체스는 완벽하게 정의된 규칙의 세계지만, 현실은 끊임없이 변하는 복잡계이기 때문이다. 갑자기 튀어나오는 아이, 예상치 못한 기상 변화, 다른 운전자의 돌발 행동 - 이 모든 것은 미리 학습된 데이터로는 대응할 수 없는 상황들이다.
MIT의 에릭 브린욜프슨 교수는 2017년 연구에서 "현재 AI는 좁은 영역에서는 뛰어나지만, 일반적 상황 판단에서는 여전히 한계가 크다"라고 지적했다. 바로 여기에 AI의 근본적 한계가 있다. 데이터를 아무리 많이 학습해도, 세상을 '이해'하지 못하면 진짜 판단은 불가능하다는 것이다.
▲ 금융 AI가 들려주는 현실의 복잡성
최근 필자 지인이 대표로 있는 국내의 한 핀테크 회사가 2년간의 개발 끝에 흥미로운 AI 트레이딩 시스템을 선보였다. 퍼펙츄얼 스왑 거래용 'GAI' 알고리즘이 그것이다. 만기일 없는 무기한 거래에서 시장이 오르든 내리든 수익을 내는 시스템이다. 현재는 법과 제도 때문에 우량 가상자산 거래에만 적용하지만, 점차 주식, ETF, 채권은 물론 석유, 금속 등 거래가 있는 모든 시장에도 적용할 수 있는 알고리즘이다.
GAI 개발사 대표가 가장 강조한 것은 "데이터는 참고일 뿐"이라는 점이었다. "결국 중요한 것은 수요와 공급"이라며, 아무리 정교한 데이터 분석도 갑작스러운 시장 변화 앞에서는 무력할 수 있다고 했다. 이 말이 바로 현재 AI의 한계를 보여준다.
이 알고리즘은 평상시 롱(매수)과 숏(공매도) 포지션을 5:5로 유지하다가, 상황에 따라 비중을 동적으로 조절한다. 상승장에서는 롱 비중을 높이고, 하락장에서는 숏 비중을 높이는 식이다. 여기서 핵심은 단순한 과거 데이터 학습이 아니라, 실시간으로 변하는 시장의 '불규칙 변수'들을 어떻게 처리하느냐에 있다.
▲ 세상을 읽는 두 가지 언어
필자 작성세상의 변화는 크게 두 가지 방식으로 일어난다. 하나는 강물처럼 끊임없이 흐르는 연속적 변화이고, 다른 하나는 번개처럼 순간적으로 일어나는 사건적 변화다.
주식 시장을 보자. 정상적인 거래 시간에는 가격이 연속적으로 움직인다. 이런 변화는 미분방정식으로 모델링할 수 있다. 실제로 블랙-숄즈 옵션 가격 결정 모델이나 브라운 운동 이론 등이 그 예다. 하지만 갑작스러운 호재나 악재 발표, 대형 투자자의 물량 출회 등은 순간적으로 시장을 요동치게 만든다.
앞서 언급한 GAI 시스템도 마찬가지다. 평상시 가격 움직임은 연속적 데이터로 분석할 수 있지만, 정말 중요한 것은 예상치 못한 '불규칙 변수'들이다. 테슬라 CEO의 갑작스러운 트윗이나, 연준의 예상 밖 금리 발표, 지정학적 리스크 같은 것들 말이다.
이런 '사건' 중심의 변화를 다루는 수학이 바로 DEVS(이산사건시스템명세, Discrete Event System Specification) 모델이다. 1976년 애리조나대학의 버나드 젠틀러 교수가 개발한 이 이론은 NASA 우주선 시뮬레이션부터 현대의 스마트 팩토리까지 광범위하게 활용되고 있다.
우리 몸의 체온 조절을 생각해 보자. 추운 곳에 있으면 체온이 서서히 떨어지고, 몸은 떨림이나 혈관 수축으로 서서히 체온을 올린다. 이런 연속적 변화는 미분방정식으로 정확히 표현할 수 있다. 실제로 1980년대부터 의료계에서는 약물 농도 변화나 생리적 반응을 미분방정식으로 모델링해 치료 효과를 예측하고 있다.
물론 일부에서는 "AI가 굳이 이런 복잡한 수학 모델을 이해해야 하느냐"는 회의적 시각도 있다. 단순한 패턴 인식만으로도 충분히 유용한 AI를 만들 수 있다는 주장이다. 하지만 이는 AI를 영원히 '보조 도구' 수준에 머물게 하는 관점이다.
▲ 복잡한 세상을 하나로 엮는 기술
2020년 코로나19 팬데믹 초기, 각국 정부는 봉쇄 정책의 효과를 예측하기 위해 다양한 모델을 사용했다. 바이러스 확산은 미분방정식으로, 정책 결정과 시행은 이산사건 모델로, 경제적 파급효과는 또 다른 수식으로 표현해야 했다. 문제는 이 모든 모델을 어떻게 하나로 연결하느냐였다.
금융 시장에서도 마찬가지다. GAI 알고리즘 개발사 대표가 강조한 "수요와 공급이 결국 핵심"이라는 말은 바로 이런 맥락이다. 아무리 정교한 기술적 분석이나 펀더멘털 분석을 해도, 결국 실제 거래는 수많은 변수들이 복합적으로 작용한 결과다.
여기서 필요한 기술이 바로 '연동(Federation)'이다. 서로 다른 시간 단위로 작동하는 여러 모델을 실시간으로 연결해 통합 시뮬레이션을 만드는 것이다. GAI 시스템의 경우, 연속적 가격 변화 모델과 돌발적 사건 처리 모델, 그리고 리스크 관리 모델이 실시간으로 연동되어 최종 매매 신호를 생성한다.
한국의 K-방역이 성공할 수 있었던 이유 중 하나도 질병관리청의 통합 상황 분석 시스템이 있었기 때문이다. 의료진 배치, 병상 운영, 백신 유통 등 각기 다른 시스템들이 실시간으로 연동되어 전체 상황을 파악할 수 있었다.
IBM이 2019년 발표한 자료에 따르면, 복합 시스템 시뮬레이션을 통한 의사결정 정확도는 단일 모델 대비 평균 35% 향상된다고 한다. 하지만 이런 연동 기술은 아직 소수의 전문 기관에서만 활용되고 있다.
▲ 의사는 어떻게 생명을 구할까
응급실에서 의사가 환자를 진료하는 과정을 보면 AI가 나아가야 할 방향이 보인다. 의사는 환자의 혈압, 맥박, 체온 등의 연속적 변화를 관찰하면서 동시에 의식 잃음, 경련 발작 같은 급작스러운 사건들도 종합적으로 판단한다. 또한 과거 병력, 현재 증상, 검사 결과 등 서로 다른 정보들을 하나의 그림으로 통합해 진단을 내린다.
트레이더도 비슷하다. 차트의 연속적 움직임을 보면서도 뉴스나 공시 같은 돌발 변수들을 동시에 고려해야 한다. GAI 시스템이 "데이터는 참고일 뿐"이라고 한 것도 바로 이런 맥락이다. 아무리 완벽한 과거 데이터가 있어도, 예상치 못한 사건 하나가 모든 계산을 뒤흔들 수 있기 때문이다.
존스홉킨스 의대가 2021년 발표한 연구에 따르면, AI 진단 시스템이 단순 영상 판독에서는 의사보다 정확하지만, 복합적 판단이 필요한 중증 환자 치료에서는 여전히 의사가 훨씬 우수하다고 한다. 이는 AI가 아직 세상을 통합적으로 이해하는 능력이 부족하기 때문이다.
하지만 만약 AI가 생리학적 미분방정식을 이해하고, 응급 상황의 이산사건들을 처리하며, 다양한 의료 데이터를 실시간으로 연동할 수 있다면? 그때 AI는 비로소 의사의 진짜 파트너가 될 수 있을 것이다.
▲ 데이터의 함정에서 벗어나기
현재 AI 개발의 주류는 '빅데이터 기반 머신러닝'이다. 구글, 메타, 오픈 AI 등 거대 기술기업들이 천문학적 데이터를 수집해 AI를 학습시키는 방식이다. 이 접근법은 분명 성과를 거두었다. ChatGPT나 미드저니 같은 생성 AI가 그 증거다.
하지만 GAI 개발사 대표의 경험은 데이터만으로는 한계가 있음을 보여준다. "결국 수요와 공급"이라는 그의 말은 시장의 본질적 메커니즘을 이해해야 한다는 뜻이다. 2008년 금융위기나 2020년 코로나 폭락처럼 과거 데이터로는 예측할 수 없는 '블랙 스완' 사건들이 바로 그 예다.
스탠퍼드대학의 페이페이 리 교수는 2022년 강연에서 "데이터만으로는 진정한 지능을 만들 수 없다"라고 지적했다. 아무리 많은 데이터를 학습해도, 학습 범위를 벗어난 상황에서는 예측할 수 없는 결과를 낳기 때문이다. 실제로 2023년 초 ChatGPT가 수학 문제에서 터무니없는 답을 내놓아 논란이 된 사례들이 이를 보여준다.
반면 수학적 모델 기반 접근법은 다르다. 물리 법칙이나 생물학적 원리처럼 세상의 근본 구조를 이해하기 때문에, 새로운 상황에서도 논리적 추론이 가능하다. 물론 이런 접근법도 한계가 있다. 모든 현실을 수학으로 표현하기는 어렵고, 계산 복잡도도 높다는 비판이 있다. 하지만 진짜 '판단하는 AI'를 만들려면 이 길을 가야 한다는 것이 점점 명확해지고 있다.
▲ 불규칙성을 다루는 새로운 패러다임
전통적인 AI는 '규칙성'을 찾는 데 집중했다. 하지만 현실에서 정말 중요한 것은 종종 '불규칙성'이다. GAI 시스템에서 말하는 '불규칙 변수'들이 바로 그것이다.
2022년 러시아의 우크라이나 침공은 전 세계 금융시장을 요동치게 했다. 아무도 예상하지 못한 지정학적 리스크였다. 이런 상황에서 과거 데이터에 의존하는 AI는 무력했지만, 사건 기반 모델링을 할 수 있는 시스템은 상대적으로 빠르게 적응했다.
여기서 DEVS 모델의 진가가 드러난다. 이 시스템은 예상치 못한 사건이 발생했을 때, 그 사건의 성격을 분석하고 시스템 전체에 미칠 영향을 실시간으로 계산한다. 단순히 "전쟁이 났으니 주식이 떨어질 것"이 아니라, "이런 성격의 지정학적 리스크가 이런 산업에 이런 방식으로 영향을 미칠 것"이라는 구조적 분석이 가능하다.
▲ 연동이 만드는 진짜 지능
GAI 알고리즘의 핵심은 서로 다른 모델들을 실시간으로 연동하는 데 있다. 기술적 분석 모델, 펀더멘털 분석 모델, 심리적 지표 모델, 리스크 관리 모델 등이 각각 다른 시간 단위로 작동하면서도 하나의 통합된 결과를 만들어낸다.
이는 마치 오케스트라와 같다. 바이올린, 첼로, 트럼펫이 각각 다른 선율을 연주하지만, 지휘자의 지휘봉 아래 하나의 아름다운 교향곡이 완성되는 것처럼, 서로 다른 AI 모델들이 연동 시스템 하에서 하나의 지능적 판단을 만들어낸다.
이런 연동 방식은 금융뿐 아니라 모든 복잡 시스템에 적용될 수 있다. 스마트시티에서는 교통, 전력, 상하수도, 치안 시스템이 연동되고, 스마트팩토리에서는 생산, 품질, 물류, 에너지 시스템이 통합된다. 미래의 AI는 이런 연동 능력이 핵심 경쟁력이 될 것이다.
▲ 대한민국이 나아갈 길
AI 주권을 이야기할 때 우리는 흔히 반도체나 클라우드 인프라부터 떠올린다. 물론 이것들도 중요하다. 하지만 정말 중요한 것은 'AI가 어떻게 사고하는가'의 근본 구조다.
다행히 한국은 이 분야에서 강점이 있다. 카이스트의 시뮬레이션 연구, 서울대의 수치해석 기술, 포스텍의 복잡계 연구 등은 세계적 수준이다. 또한 조선, 자동차, 반도체 등 주력 산업들이 이미 정교한 시뮬레이션 기술을 활용하고 있어 응용 기반도 탄탄하다.
국방과학연구소가 2018년부터 진행하고 있는 '다영역작전 시뮬레이션 체계'나, 한국전력이 구축한 '통합 전력계통 시뮬레이터' 등은 연동 기반 복합 시뮬레이션의 성공 사례들이다. 최근 GAI 같은 금융 AI의 등장도 이런 맥락에서 고무적이다.
이런 경험과 기술을 바탕으로 AI의 수학적 사고 능력을 체계적으로 개발한다면, 우리만의 독특한 AI 생태계를 만들 수 있을 것이다. 물론 "굳이 어려운 길을 갈 필요가 있느냐"는 의견도 있다. 기존 빅테크 기업들의 AI 모델을 활용하는 것이 더 효율적이라는 주장이다. 하지만 그렇게 하면 영원히 기술 종속에서 벗어날 수 없다. 진짜 AI 주권은 남이 만든 도구를 잘 쓰는 것이 아니라, 세상을 이해하는 새로운 방식을 스스로 만드는 것이다.
▲ 수학이 만드는 AI의 미래
필자가 생성한 whisk로 생성한 이미지결국 AI의 미래는 '얼마나 많은 데이터를 학습했느냐'가 아니라 '얼마나 깊이 세상을 이해하느냐'에 달려 있다. 미분방정식으로 흐름을 읽고, DEVS로 사건을 다루며, 연동으로 복잡성을 통합하는 AI. 이를 우리는 나노반응 통합형 AI(Nano-Response Integrated AI, NIA), 즉"니아"라고 부를 수 있다.
니아는 나노초 단위로 반응하면서도 복합적 상황을 통합적으로 판단한다. GAI 트레이딩 시스템이 대표적인 니아 기술의 사례다. 시장 데이터를 극초단시간에 분석하면서 동시에 예상치 못한 사건들을 실시간으로 통합 처리하는 것이다.
GAI 개발사 대표가 "데이터는 참고일 뿐, 결국 수요와 공급이 핵심"이라고 한 말은 바로 니아의 본질을 보여준다. 세상의 본질적 메커니즘을 이해해야 진짜 예측과 판단이 가능하다는 것이다.
현재 전 세계 금융시장 규모를 보면 니아의 잠재력을 가늠할 수 있다. 2025년 4월 기준 세계 가상자산 시장은 2조 4,100억 달러(약 3,600조 원), 전 세계 주식 시가총액은 124조 달러(약 18경 6천조 원), 채권 시장은 140조 달러(약 21경 원)에 달한다. 규제와 제도가 점진적으로 뒷받침된다면, GAI 같은 AI 트레이딩봇이 펼쳐갈 시장은 앞으로 수십 년간 다가올 엘도라도가 될 것이다.
물론 니아를 만드는 것은 쉽지 않다. 수십 년간 축적된 수학 이론을 컴퓨터가 이해할 수 있는 형태로 구현해야 하고, 각 분야의 전문 지식을 통합하는 거대한 작업이 필요하다. 하지만 어려운 만큼 먼저 성공하는 나라가 차세대 AI 패권을 잡을 수 있다.
한국은 니아 같은 알고리즘 개발에 집중하여 AI 하드웨어 제조국이 아닌, AI 응용 설루션의 글로벌 선도국이 되어야 한다. 마치 한국이 TV 하드웨어뿐만 아니라 K-드라마라는 콘텐츠로도 세계를 정복했듯이 말이다.
20세기가 물리학의 시대였다면, 21세기는 복잡계 과학의 시대다. 그리고 그 중심에 니아가 있다. 데이터의 노예가 아닌, 세상의 원리를 이해하는 진짜 인공지능. 우리는 니아 시대의 출발점에 서 있다.
칼럼니스트 박대석
이 글은 2025.07. 21. FN투데이에 필자 명의 칼럼으로 게재되었다.
https://www.fntoday.co.kr/news/articleView.html?idxno=357851
