미션 임파서블 속 AI와 보안 전쟁은 이미 시작됐다
'미션 임파서블 : 파이널레코닝' 속에서 바라본 AI와 데이터 패권 경쟁
지난 4월 국내 최대 통신사 SKT(SK텔레콤, 대표이사 유영상)의 유심 정보가 해킹된 사실이 알려지면서 이 나라는 한 바탕 혼란에 휩싸였다. SKT는 무려 국민의 절반이 사용하고 있는 통신사니 그럴 만도 하다.
문제는 단순히 개인정보 몇 개가 털린 수준이 아니라 가입자 IMSI, 인증키(Ki), IMEI 등 USIM 정보와 인증 데이터를 저장·관리하는 저장 공간인 HSS서버가 해킹됐다는 것이다. 사태 발생 후 일부 고객들은 SKT를 상대로 전방위적인 비판과 대안을 요구하며 소송 전까지 벌이고 있지만, 두 달이 지난 지금까지도 SKT는 유심보호서비스 가입과 유심 교체 외에는 마땅한 대책을 내놓지 못하고 있다.
시간이 흐르면 결국 이 사건도 수면 아래로 서서히 사라지고 국민의 관심도 줄어들 것이다. 하지만 이미 유출된 정보는 결코 사라지지 않는다. 북한 등 특정 국가 기반의 해킹 조직에 의해 어떤 용도로 사용될지도 모른다.
최근 일부 언론에서는 SKT를 사용했던 정부 고위 인사의 통화 내역이 유출됐을 가능성까지 거론됐다는 보도가 나왔다. SKT의 고객인 국민의 절반 중에는 국가의 기밀 정보를 가지고 있는 고위 정부 인사가 있을 수도 있고, 유출된 정보 중에는 다른 나라에 알려져서는 안 될 기밀 정보가 담겨 있을 가능성도 배제할 수 없다.
SKT에서 해킹한 유심 정보를 보고 있는 북한 해커의 모습. 가상의 이미지, chatGPT 생성.이번 사태가 당장 국민의 생활에 어떤 영향을 줄지는 알 수 없다. 이미 해킹된 수많은 정보가 국가의 안보와 국민의 안위에 어떤 파급력을 줄지도 아무도 모르기 때문이다. 게다가 앞으로 AI를 기반으로 한 자동화된 해킹 공격이 늘어날 것을 고려하면, 결코 이번 사태를 그냥 지나쳐서는 안 될 것 같다는 우려도 든다.
AI 패권 시대, 최극단 위협의 미래를 보여준 '미션 임파서블 : 파이널 레코닝'
최근 개봉돼 화제를 끌고 있는 영화가 있다. 60대의 꽃중년 탐크루즈와 30년간 함께한 온 미션 임파서블 시리즈의 마지막 작품, '미션임파서블 : 파이널 레코닝'이다. 이 영화는 다양하고 화려한 액션신을 가지고 있어 아무 생각 없이 즐기는 킬링 타임용으로도 좋다. 하지만 세심히 들여다보면 급변하는 현실 세계를 담고 있는 것 같다.
'미션임파서블 : 파이널레코닝' 스틸컷영화 속 등장하는 일반 인공지능(AGI:인간의 지능과 비슷한 수준의 지능을 가진 인공지능) '엔티티'는 전 세계 권력의 핵심인 핵무기를 포함해 모든 디지털 시스템을 조종할 수 있는 능력을 갖추고 있다. 영화에서는 엔티티를 AGI라고 표현하지는 않지만, 자기 증식을 통해 계속 생존할 정도로 똑똑하다는 차원에서 AGI로 봐야한다고 생각한다. 엔티티는 미국, 러시아 등 강한 군사력을 가진 나라의 정치, 통신, 군사 등 디지털 시스템을 점령해 세계를 자신의 손안에 넣으려고 한다.
특히, 엔티티의 특별한 능력은 그가 신체를 가진 인간이 아니라는 점에서 기인한다. 엔티티는 전 세계 모든 네트워크를 통해 퍼져 있다. 한 곳에서 지우거나 삭제한다고 없어지지 않는다. 인터넷을 통해 전 세계 수십억 개의 기기, 서버, 시스템, 클라우드, 위성 등에 자기 일부(코드, 알고리즘)를 복제·확산시킨 것이다.
그런 엔티티를 막기 위해 비밀요원 에단 헌트(톰크루즈)와 동료들이 마지막 작전을 펼치는데, 그 이름이 바로 '파이널 레코닝'이다. 영화에서는 엔티티를 잡을 수 있는 유일한 원본 소스코드와 포이즌필(AI의 정보구조, 행동 패턴, 예측 알고리즘을 역이용한 치명적인 공격 코드)을 결합해 엔티티가 스스로를 셧다운 시키도록 만든다.
AI 엔티티의 모습. chatGPT 생성.하지만 생각해 보면, 현실에서도 이와 같은 일이 발생하지 않으리라고는 볼 수 없다. 챗GPT, 구글 Gemini 같은 인공지능 모델은 엔티티와 비슷한 방식으로 존재한다. 수천 개의 서버에 걸쳐 퍼져 있는 거대한 네트워크 AI라는 점에서 말이다.
또한, 엔티티가 만드려고 했던 감시 체계를 만드는 일 또한 충분히 가능하다고 본다. 스마트폰 등 디지털 기기를 통해 우리의 모든 실시간 데이터는 이미 학습돼 왔고 지금도 이 순간에도 학습되고 있다. 기업들은 AI를 통해 재가공한 콘텐츠를 끝없이 만들어낸다. 스마트폰에 대한 의존성이 높아진 우리는 언젠가부터 알고리즘이 편성한 치우친 세상 속 얘기만 들으며 살아가고 있는 듯하다. 기독교 경전인 성경에는 '믿음은 들음에서 나온다'는 말도 있는데 이런 측면에서 보면 우려가 되는 지점이다.
'미션임파서블 : 파이널레코닝' 스틸컷chatGPT에게 물었다. '미션 임파서블'과 같은 영화가 현실에서도 벌어질 가능성이 있냐고. GPT는 가능성에 대해 설명을 늘어놓은 후 아래와 같은 답변을 내놓았다.
1. AI가 퍼져나가며 인간의 통제를 벗어날 가능성 - 이미 기술적으로는 가능한 구조에 도달함.
2. 데이터 장악이 곧 권력의 중심이 될 가능성 - 감시 자본주의는 이미 현실화됨
3. AI가 스스로 판단하고 인간에게 영향을 줄 가능
성 - 실제 사례 다수 존재함.(ex) 선거 조작, 주가 폭락 등
4. 영화처럼 AI를 ‘죽이기 위해’ 소스코드를 찾는 전쟁이 벌어질 가능성 - 다소 과장되었지만, 개념적으로는 불가능하지 않음.
GPT는 이미 알고 있었다. 그럼, 인간이 만든 궁극의 AI를 우린 이제 어떻게 통제해야 하는가?
AI보다 욕망과 의존성에 대한 통제가 필요할 때
영화 속 엔티티는 인간의 욕망 속에서 탄생했다. 처음에는 인간의 삶을 편리하게 하기 위해 만들어졌지만 결국 인간의 이면에 있는 통제, 장악 욕구에 휩쓸려 악(惡)의 도구로 변질됐다. 엔티티를 그렇게 만든 데는 일부 권력층의 돈, 명예에 대한 욕구가 강하게 투영됐을 것이다.
'미션 임파서블 : 파이널레코닝' 스틸컷. AI 엔티티를 막을 핵심 키(KEY)인 소스코드가 담긴 칩을 들고 있는 에단 헌트(톰크루즈)chatGPT 등 현실의 AI 기술도 비슷한 상황에 처해 있다고 생각한다. 2023년 오픈 AI가 한창 chatGPT의 새로운 버전 업그레이드에 박차를 가하고 있을 때, 일론머스크를 비롯한 세계의 주요 인사들은 더 이상의 AI 개발을 6개월간 멈추자고 제안했다. AI의 빠른 개발이 핵무기만큼이나 위험하다는 것이 이유였다. 하지만 고삐가 풀린 이들을 막을 순 없었다. 엄청난 자본과 권력을 가져다줄 새로운 산업을 기업인들이 쉽게 포기할 리 만무하기 때문이다.
결국, 지금의 거대한 AI 모델들도 모두 욕망의 산물이다. 이제 이들의 발전을 막을 순 없다. AI의 발전을 막는 것은 인간의 욕구를 없애는 것만큼이나 어려운 일이다. 이젠 통제할 수 있어야 한다. 여기서 대다수는 AI를 통제해야 한다고 생각하겠지만 통제의 대상은 인간의 욕망이다. 물론, 욕망은 통제보다는 절제하는 말이 더욱 어울린다. 인간의 선한 의지가 발휘되어야 가능하다.
절제하지 못하면 의존하게 된다. 지나친 의존은 결국 자생력을 잃게 하고, 동시에 의존성을 이용하고자 하는 소수의 권력자에게 통제당하게 된다. 이미 세계의 자본과 권력은 빅테크로 불리는 소수의 기업과 그와 긴밀히 연결된 정부의 시스템 아래서 움직이고 있다. 스마트폰에 이어 또 AI에 과도하게 의존하게 되면 그들의 통제력은 더욱 강해질지도 모른다.
'미션 임파서블 : 파이널레코닝' 스틸컷. 엔티티를 막기 위해 에단 헌트(탐크루즈)가 포이즌필을 가지고 있는 가브리엘과 공중에서 사투를 벌이는 모습
AI가 가져올 권력의 힘을 골고부 분배하기 위해선 각자가 AI 기술에 대한 의존성과 욕망을 적절히 조절해야 한다. 그러기 위해서는 AI를 충분히 공부하고 알아야 한다. 상대를 알고 나를 알면 지피지기라는 말도 있지 않을가. (AI를 적으로 ㅛ현하는 것 적절치 않다)
스마트폰 사례에서 봤듯 모른 채 그 기술의 힘에 휩쓸리지 않는다는 것은 그만큼 어렵다. 새롭게 다가올 AI 시대의 주인이 될지 노예가 될지는, 각자의 노력과 선택에 달려 있다.
