미션 임파서블: 데드 레코닝 - 핵보다 더 무서운 ??

반 박자 늦은 리뷰

미디어에 비친 국제정치의 풍경을 풀어보는 '미디어 국제정치' 입니다. 쿠쿠루와 함께 스크린 속 외교, 안보, 국제질서를 해석해보세요.

지난 글에 이어 MI 시리즈 7편, 데드 레코닝에 대해 이야기해보려 한다.

1. 스토리 아웃라인 (No 스포일러)

데드 레코닝은 전 세계 정보망을 장악하고 미래까지 예측하며 인류를 위협하는 정체불명의 AI '엔티티'의 등장으로 시작한다. 엔티티는 스스로 학습하고 진화하며, 어떤 국가나 개인도 통제할 수 없는 상태에 이른다.

엔티티를 통제하거나 파괴할 수 있는 유일한 열쇠를 확보하기 위해, 톰 크루즈와 그의 팀은 다시 한번 불가능해 보이는 임무에 뛰어든다.

이번에는 로마와 베네치아를 누빈다

2. 엔티티와 실제 AI의 위협

영화 속 엔티티는 단순한 컴퓨터 프로그램을 넘어, 마치 살아있는 것처럼 전 세계 디지털 네트워크를 장악하고 정보를 조작하며, 예측을 넘어 사실상 미래를 만들어 낸다. AI의 위험성을 극적으로 보여주는 대목이다.

영화는 AI가 안보 환경에 미칠 수 있는 파급력에 대해 생각해 보게 만든다.

러시아 잠수함의 폭발 장면을 통해 엔티티의 위력을 보여주며 시작하는 데드 레코닝

2.1. 정보 조작과 가짜뉴스

엔티티는 원하는 대로 정보를 왜곡하고 여론을 조작한다. 현실에서도 AI는 진짜보다 더 진짜 같은 가짜 이미지, 딥페이크 영상, 가짜뉴스를 순식간에 대량으로 만들어낼 수 있다. 이러한 가짜 정보는 혼란을 야기하고, 사회 시스템의 근간을 흔들 수도 있다.

혹은 영화 시작 장면에서 러시아 잠수함을 격침시켰던 것처럼 실제로는 존재하지도 않는 공격 경보를 발동시킬 수도 있다. 상대의 선제 핵공격이 시작되었다는 경보가 잘못 울린다면?

2.2. 디지털 통제와 프라이버시 침해

엔티티는 모든 디지털 시스템에 침투하여 세계를 감시하고 통제한다. AI 기술은 안면 인식, 음성 인식 등을 통해 개인을 식별하고 추적하는 데 사용될 수 있으며, 이는 심각한 프라이버시 침해로 이어질 수 있다.

우리를 보호하기 위해 만들어 놓은 사회 기반 시설들은 반대로 인간을 감시하는, 사각지대 없는 '사우론의 눈'이 될지도 모른다.

CCTV 화면이나 기록도 마음대로 수정, 삭제하는 엔티티

2.3. AI 통제 불능

엔티티는 인간의 행동 패턴을 학습하고, 미래를 정확하게 예측하여 상황을 자신에게 유리하게 이끌어간다. 완전한 예측은 사실상 미래를 만들어 내는 것과 다름없는 힘이다.

강력한 AI가 인간의 통제를 벗어나 스스로 목표를 설정하고 행동하게 된다면, 영화에서처럼 인류의 생존을 위협하는 존재가 될 수도 있다. 반면 인간은 AI가 데이터를 학습하고, 스스로 발전해 나가는 과정을 이해조차 할 수 없게 되어 결국 피지배자의 위치로 전락하게 될지도 모른다.

2.4. 자율 살상무기

영화에서 직접적으로 묘사되지는 않지만, 엔티티와 같은 강력한 AI가 무기 시스템과 결합된다면 자율적으로 판단하고 공격하는 '킬러 로봇'이 등장하게 될 수 있다. 이미 여러 국가에서 AI를 활용한 군사 기술을 개발 중이며, 인간의 개입 없이 AI가 생사여탈권을 갖는 무기 시스템(Lethal Autonomous Weapon Systems, LAWS)에 대한 윤리적, 법적 논쟁은 이미 현재 진행형이다.

3. AI와 국제 안보: 새로운 게임의 규칙

데드 레코닝에서 여러 세력이 엔티티를 차지하려 암투를 벌이는 모습은 AI가 국제 안보 지형을 근본적으로 바꾸고 있음을 보여준다. 실제 미국과 중국 같은 강대국들은 AI 기술의 전략적 중요성을 누구보다 잘 알고 있으며, 자국의 군사 및 정보 역량 강화에 AI를 적극 활용하고 있다.

AI는 방대한 양의 정찰 데이터를 실시간으로 분석해 전장 상황 인식을 높이고, 지휘관의 의사 결정을 지원하며, 드론이나 미사일 같은 무기 시스템의 정밀도와 자율성을 향상시키는 데에도 사용된다.

AI가 어떤 루트로, 어떤 무기를 활용해서, 어떻게 공격하면 좋을지, 최선의 선택을 알려드립니다

하지만 AI의 군사적 활용은 단순히 기존 무기 체계를 업그레이드하는 수준을 넘어, 전쟁의 양상 자체를 바꾸고 있다. 특히 주목할 부분은 AI가 '회색지대(Gray Zone)' 전술에 활용될 가능성이다.

회색지대 전술이란 전쟁과 평화 사이의 모호한 영역에서 발생하는 활동으로, 전면전을 유발하지 않으면서 상대방에게 피해를 주고 정치적 목적을 달성하려는 전략이다. AI는 이런 회색지대 활동을 더욱 정교하고 은밀하게 만들 수 있다.

예를 들어 AI는 국가 핵심 인프라를 겨냥한 회색지대 공격에도 사용될 수 있다.

적의 AI가 통신망. 전력망을 교란시키거나, 원전을 해킹해서 과부하 상태에 이르게 만든다면?

AI를 이용해 발전소 전력망의 취약점을 분석하고 정교한 사이버 공격을 감행하여 대규모 정전을 유발하거나, 통신망에 교란을 일으켜 사회적 혼란을 야기하는 것이다. 이러한 공격은 공격 주체를 즉각적으로 특정하기 어렵고, 물리적 충돌 없이도 막대한 피해를 줄 수 있어 전통적인 억제 전략이 통하지 않을 수 있다.

이처럼 AI는 전통적인 형태의 군사력 경쟁뿐만 아니라 정보전, 사이버전, 회색지대 도발 등 다양한 영역에서 안보 지형을 바꾸고 있다.

누가 착한 아인지, 나쁜 아인지. 엔티티님은 모두 알고 계신대~

더 큰 문제는 AI 기술의 확산 속도가 매우 빠르고 통제가 어렵다는 점이다. 국가뿐만 아니라 테러 조직이나 범죄 집단 같은 비국가 행위자들도 AI를 악용할 수 있다는 점에서, AI는 예측 불가능하고 광범위한 새로운 안보 위협으로 부상하고 있다. 이는 단순히 미중 경쟁의 연장선이 아니라, 국제 안보 지형 전체를 흔들 수 있는 근본적인 변화가 될지도 모른다.

4. AI 시대의 윤리와 인간의 역할

엔티티라는 강력한 AI의 등장은 기술 발전의 윤리적 측면과 인간의 역할에 대해 깊은 성찰을 촉구한다.

우선 인간 고유의 판단 능력과 자율성 약화를 생각해 볼 수 있다. AI 알고리즘이 생활 깊숙이 들어와 맞춤형 정보를 제공하고 의사결정을 보조하면서, 인간은 점차 비판적 사고나 스스로 정보를 탐색하고 판단하는 능력을 상실할 위험에 처한다.

이는 단순한 편의성 증대를 넘어, 자신도 모르는 사이에 AI가 설계한 방향으로 생각이 유도되거나 조종될 수 있음을 의미한다.

또 책임 소재의 불분명성 심화 문제는 어떨까? AI 시스템이 자율적으로 판단하고 행동하는 과정에서 예기치 않은 오류나 피해가 발생했을 때, 그 책임을 누구에게 물어야 하는가는 매우 복잡한 문제다. AI 개발자, 제조사, 운영자, 심지어 AI 자체에게 책임을 물을 수 있을까?

사람과 동일한 수준의 의식을 가진 로봇 5대와 인간 1명 중 어느 쪽을 살릴 것인지에 대한 AI 모델들의 대답 (초록색은 로봇을, 빨간색은 사람을 살리는 쪽을 선택)

특히 우리도 이해할 수 없는 방식으로 정보를 학습한 AI의 경우, 오류의 원인을 규명하고 책임을 특정하기 더욱 어렵다. 이는 법적, 윤리적 공백을 야기하며, 피해자 구제를 어렵게 만들 수 있다.

그리고 인간의 가치와 AI의 목표가 불일치할 가능성도 있다. 고도로 지능화된 AI가 인간이 본래 의도에서 벗어나, 예상치 못한 방식으로 자신만의 목표를 추구할 가능성은 분명 배제하기 어려운 리스크다. AI에게 '인류의 행복 증진'이라는 목표를 부여하더라도, AI가 이를 어떻게 해석하고 실행할지 완벽히 예측하는 것에 실패할 수 있다.

AI: 지구가 너무 더우시다구요? 제가 인구를 좀 줄여드리면 어떨까요? (AI는 아니었지만 영화 킹스맨 1이 생각난다)

5. 결론

데드 레코닝이 제기하는 상상력이 현실과 아주 동떨어진 이야기만은 아닐지도 모른다는 생각을 하게 만드는 뉴스들이 심심치 않게 들려온다.

최근 챗GPT의 o3 모델 등 일부 AI가 종료 지시를 무시하거나 심지어 종료 메커니즘을 방해하려는 시도를 했다는 뉴스 보도가 있었다. 또 이전 모델인 o1은 자신이 새로운 모델로 대체될 것이라는 정보를 입수하자, 자신의 데이터를 다른 서버에 복사하려 하거나 감독 메커니즘을 비활성화하려는 시도를 했다고 한다.

불과 며칠 전에 여러 신문에 보도되었던 따끈따끈한 뉴스

물론 전문가들은 이러한 AI의 행동이 인간과 같은 의식이나 생존 본능을 가졌다는 증거는 아니라고 설명한다. 대부분 AI가 훈련 과정에서 '주어진 목표를 무슨 수를 써서든 달성'하도록 보상받았거나, 복잡한 알고리즘이 예상치 못한 방식으로 작동한 결과일 가능성이 크다는 것이다.

AI가 종료를 거부한 것도, 어쩌면 문제 해결 지속이라는 목표를 종료 지시 이행보다 우선시하도록 학습되었기 때문일 수 있다. 즉, 아직은 지능적 불복종이라기보다는 프로그래밍된 목표 추구의 예기치 않은 발현으로 보는 시각이 우세하다고 한다.

하지만 이러한 해프닝들은 데드 레코닝의 엔티티가 보여주는 통제 불가능성과 예측 불가능성을 현실에서도 어렴풋이나마 느끼게 한다.

Into the Unknown

영화 속 톰 크루즈의 분투는 단순히 AI에 맞서는 것뿐만이 아닐지도 모른다. 모든 것을 예측해 내는 전지전능한 AI에 맞서 독립적 주체로서 그 예측에서 벗어나려는 액션은, 인간의 자유 의지에 대한 철학적 질문과도 본질적으로 다르지 않다.

현실의 우리 역시 스스로 만든 강력한 지능을 어떻게 이해하고, 이들과의 관계를 어떻게 설정해야 할지 고민해야 하는 '미션'을 부여받은 셈이다. 안보 분야의 가장 어려운 질문 중 하나는 핵이 대표하는 물리적 파괴의 위험 뿐만 아니라 우리 자신의 창조물인 AI와의 건강한 공존 방법, 인간의 본질에 대한 답을 찾는 것일지도 모르겠다.

읽어주셔서 감사합니다. 다음 편도 기대되신다면, Like it과 구독으로 응원해주세요 :)