V2_NO.9
평화를 원한다면 AI전쟁을 준비하라
날 공격하는 AI? 깨져버린 전쟁의 금기
표적 확인, 공격 시 민간인 희생 23명 예상됩니다. 사살하시겠습니까?
○ AI가 표적을 찾아 직접 공격까지? 영화 속 장면이 현실이 되다
인공지능(AI)이 킬링 리스트를 식별 및 표적화한 후 최적 타격 수단 추천과 공격까지 감행하는 것, 영화에서나 볼 법한 설정이 지금 가자지구에서는 현실로 일어나고 있다. 이스라엘군은 하마스와의 전쟁 시작 후 표적 식별부터 지휘통제, 심지어 표적 제거까지 본격적으로 AI시스템을 활용하고 있으며 일각에선 ‘판도라의 상자가 열렸다’며 우려를 표하고 있다. 현재까지 사망한 대부분의 하마스 전투원은 물론 정치 1인자 이스마일 하니예를 암살하는 과정에서도 AI가 결정적인 역할을 한 것으로 알려졌다. 불과 몇 년 전만 해도 시험 단계이자 부수적 수단으로 활용되던 AI가 가자전쟁에선 중추역할을 수행하고 있는 것이다. 암묵적으로 금기 시 되던 AI의 무기화, 도대체 무슨 일이 벌어지고 있는 걸까?
모사드(이스라엘 정보기관)가 AI 기능이 탑재된 폭탄을 건물에 설치해 하니예를 암살했다고 전해지고 있다.○ AI기술의 무기화, 러우전쟁과 가자전쟁
AI기술이 대다수의 분야에 영향을 미치고 있는 지금, 전장에 AI가 도입되는 건 사실상 예견된 흐름이다. 다만 화약, 핵무기에 이어 제3의 전쟁 혁명으로 칭해지는 ‘AI기술의 무기화’가 러우전쟁을 통해 가속화되고 가자전쟁에서 전면에 드러나고 있으며 그 중요성과 역할까지 빠르게 변화하고 있다.
미래 AI전쟁의 실험실이자 역사상 첫 AI 살인 현장, 러우전쟁
‘최초의 AI전쟁’이라고 불리는 러우전쟁은 우크라이나가 현대의 골리앗인 러시아에 대항하기 위해 거대 테크기업들의 지원을 받으면서부터 미래 전쟁의 실험실로 변모했다. 테크기업들은 실제 전쟁으로 경쟁력을 키우기 위해 적극적인 참전을 서슴지 않는 것이다. 이들은 전장의 데이터를 확보해 더욱 강력한 성능으로 무장할 것이다. 대표적으로 팔란티어(Palantir)는 전쟁 초 우크라이나에 수백 개의 상업용 위성, 동맹국 제공 기밀 정보, 드론 영상, 러시아 CCTV 해킹 데이터 등을 결합·분석해 2~3분 만에 표적을 식별하는 AI기반 시스템 ‘메타콘스텔레이션(MetaConstellation)’ 제공을 제안했고, 지금까지도 우크라이나의 표적 식별에 사용되고 있다. 최근 우크라이나 드론의 명중률이 최대 80%까지 올라갔다는 소식도 팔란티어의 AI기술 도입이 핵심적인 역할을 한 것으로 알려졌다.
팔란티어 소프트웨어를 활용해 우크라이나 군이 공격할 표적을 선정하고 있다. - 출처 : 비즈니스인사이더우크라이나 드론 부대 사령관 ‘로버트 브로우디’는 9월 유럽 전략 연례회의에서 “우크라이나 드론 부대는 6~8개월 내 인공지능(AI) 체계로 완전히 전환할 수 있다.”라며 “군인들이 드론을 발사하기만 하면 스스로 어디로 향할지, 어떻게 목표물을 타격할지 결정할 것”이라고 밝혔다. 실제 우크라이나군의 AI드론은 동부전선 격전지 쿠퍈스크에서 재밍으로 송수신이 끊긴 상태임에도 러시아군의 전차를 폭발시켰다. 즉 AI가 인간의 조종이 불가능한 상황에서 스스로 모든 상황을 판단해 공격을 결정했다는 얘기다. 인류 역사상 최초의 AI살인이 벌어진 현장이었다.
우크라이나의 자율 목표물 공격 드론 ‘세이커 스카우트’이외에도 우크라이나의 지휘통제시스템 ‘GIS아르타(GIS Arta)’는 차량공유업체 우버의 AI기술을 활용했다. 적의 위치와 주변에 있는 무기 자원 중 가장 적합한 공격 수단을 선택해 주는데, 손님과 차량을 연결하는 기술을 적용한 것이다. 러시아 또한 AI를 탑재한 드론 생산을 늘리고 전장에 대량 도입하는 등 변화하는 전장 환경 대응에 노력을 기울이고 있다. 이렇듯 AI는 이미 다양한 형태로 전장에 활용되고 무인체계는 AI와 결합해 더 빠르게 진화하고 있다. 그러나 자율적 판단으로 공격을 감행하는 극단적 상황까지 벌어지게 되면서 ‘무기의 최종 통제권은 인간이 가져야 한다’라는 전쟁의 암묵적 금기가 깨졌다는 것이 우려의 현실이다.
GIS 아르타의 작동원리 - 출처 : Uber Style technology바야흐로 진정한 AI전쟁의 서막, 가자전쟁
이스라엘과 하마스 간 전쟁은 그야말로 AI가 주도하는 전쟁의 서막이다. 하마스를 상대로 AI 강국 이스라엘이 펼치는 다양한 작전들을 살펴보면 우리가 상상 속에서나 그렸던 AI전쟁의 모습들을 하나둘씩 구현하고 있는 듯하다.
① 중동 내 테러리스트 수만 명의 프로필 데이터와 첩보 위성, CCTV 정보 기반 AI시스템 ‘합소라(Habsora)’로 빠르게 표적을 생성
② AI 얼굴 인식 프로그램 ‘라벤더(Lavender)’를 활용하여 CCTV 정보와 행동 분석 데이터를 수집, 표적을 식별·추적
③ ‘웨얼 이즈 대디(Where is daddy?)’ 시스템을 통해 표적의 귀가 여부 확인
④ ‘가스펠(Gospel)’로 표적 건물 식별 및 건물 내 민간인의 비율까지 체크한 후 지휘관의 판단하에 최종 공격을 결정
그 결과 하마스와의 전쟁 선포 1년만에 하마스 지도자 ‘야히야 신와르’를 포함한 주요 수장들의 사살 기사가 줄을 잇고 있다. 올 초에는 전장에 AI를 탑재한 무기체계를 처음으로 투입 시켰는데 바로 AI 광학 조준경 ‘스매쉬(Smash)’다. 소총·기관총 등에 장착하여 육안으로 보기 어려운 드론의 움직임을 자동으로 포착해 사격하도록 도와줘 ‘눈이 잘 안 보이는 병사도 스나이퍼로 만들어준다’는 별칭이 붙기도 했다. 이 외 Shield AI사의 완전자율드론 NOVA 2가 땅굴과 같이 통신이 어려운 위치에서 최적 경로를 실시간으로 설정하고 임무를 수행하고 있다. 국제사회에서는 표적 제거라는 목표를 달성하기 위해 사실상 민간인의 희생을 허용한 것 아니냐는 비판과 더불어 AI 정확성·신뢰성에 대한 검증 논란이 지속되고 있다. 하지만 AI가 주도하는 전쟁이 시작되었고, 지금 이 순간에도 수많은 데이터가 축적되며 앞으로 AI무기 개발이 더욱 확대될 것임은 분명하다.
이스라엘 ‘라벤더(Laender)'
이스라엘 ‘스매쉬(Smash)'
Shield AI ‘NOVA 2'○ 새로운 힘의 균형 AI, 글로벌 군비경쟁의 핵심으로
예상보다 빨리 AI가 주도하는 미래전이 성큼 다가온 만큼, AI는 새로운 군비경쟁의 핵심으로 떠오르고 있다. 적국 수준의 AI를 갖추지 못한다면 방어도 할 수 없다는 ‘힘의 균형’ 논리가 팽배하기 때문이다.
특히 패권을 다투고 있는 미국과 중국의 경쟁적인 움직임이 두드러진다. 미국은 현재 약 800여 개의 군사 AI프로젝트를 진행 중인 것으로 알려졌으며 중국은 2030년까지 세계 최고의 ‘AI혁신센터’가 되겠다는 계획을 세웠다. 중국은 느슨한 규제를 이용하여 세계에서 가장 많은 연구를 진행, 군사분야의 AI기술을 고도화하고 있음이 분명하다. 다만 구체적인 진행 사항이 공개되지 않은 탓에, 미국은 예산을 대폭 늘리고 리플리케이터를 포함한 다방면의 AI전력화를 위한 노력들을 기울이고 있다.
최근 전 세계적으로 AI를 적용한 차세대 무기체계 개발 경쟁이 활발하다. 전투기, 잠수함 등 전투력을 결정짓는 재래식 무기에 AI를 접목하거나, 드론과 같은 무인체계에 AI를 더해 위협 상황에 따라 신속히 스스로 판단할 수 있는 자율형 무기체계로 진화시키는 방식이다.
앞선 이스라엘 사례처럼, 전장의 사령관으로서 확대된 역할을 수행하는 AI지휘통제체계에 대한 개발도 각축전이다. 단순히 각종 감시정찰 센서를 통해 전장 상황을 분석해 알려주는 역할을 넘어, 수많은 데이터들을 분석하여 최적의 공격 시나리오를 생성, 판단하는 것이다. 여전히 최종 지휘권은 인간이 갖지만, 중국에서는 더 나아가 AI에게 최종 지휘권을 부여해 가상 전쟁을 벌이는 ‘대규모 워게임(War Game)’을 시도했던 것으로도 알려졌다.
한편, 전통적인 방산업체들도 서로 다른 전략으로 AI시대를 적극 맞이하고 있다. 록히드마틴은 군 요구사항과 AI기술을 연결하여 실질적 솔루션 개발부터 전력화까지 가능한 전문 조직 ‘AI센터(LAIC)'를 창설하였다. 또한 자체 AI Factory를 구축하여 다양한 환경의 AI 어플리케이션을 대규모로 개발하고 배포할 수 있는 기반을 마련, 선도적인 케이스들을 확대해 나가고 있다. RTX는 데이터의 중요성을 강조하며 ‘Data Capability Group’을 구성했다. 이를 기반으로 머신러닝, AI를 활용한 데이터 노하우 축적하여 국방 솔루션 역량을 강화하겠다는 전략이다. 제너럴 다이내믹스는 자회사 GDIT를 통해 클라우드, 5G, 임무중심 AI 및 머신러닝 등 국방에 적용할 수 있는 새로운 6가지 기술에 중점을 두고 모든 리소스를 집중시키겠다는 계획을 발표했다.
생성AI업체인 오픈AI는 올 초 이용 약관에서 ‘군사 및 전쟁 응용 프로그램에서 자사 AI의 사용을 막는다’는 조항을 삭제한 후 미 국방부와 함께 ‘사이버 보안 도구’개발에 나섰다. 본격적인 ‘AI 무기화’의 발전 가능성을 열어둔 셈이다. 아직까지 AI기반 무기체계 선점 경쟁의 승기를 누가 잡았는지는 명확치 않다. 중요한 건 AI기술과 방위산업 간 대통합이 이루어지고 있으며 이전과는 다른 운용 개념과 무기체계 간 포지션의 재정립이 더는 늦출 수 없는 당면 과제라는 것이다.
미노타우르스 전쟁의 시대, 이끌 것인가 혹은 도태될 것인가?
일각에서 지금까지의 전쟁이 ‘켄타우로스’에 비유되었다면, 앞으로는 ‘미노타우르스 전쟁의 시대’라고 부른다. 즉 전쟁의 핵심 자산이 AI기술로 변화하였으며 사실상 전장의 두뇌 역할을 AI가 수행한다는 것이다. AI의 군사적 활용은 거스를 수 없는 물결이며 미래의 군사력을 결정짓는 데 반드시 갖춰야 할 근간이 될 것이다.
더불어 AI와 윤리적 문제는 뗄 수 없는 쟁점 사안이다. 인류의 두 번째 오펜하이머 모먼트를 겪고 있는 지금, 국가안보를 위해 개발한 기술이 도리어 위협이 되지 않도록 그 어느 때보다 기술 개발과 활용에 큰 책임감이 요구되는 것, 절대 잊지 말아야 할 중요한 지점이다.
우리나라 국방부는 올 초 국방AI센터를 창설하여 AI기반 핵심첨단전력 확보를 위한 초석을 다졌으며, 다양한 국내외 협력을 통해 국방 AI기술 확보에 매진하고 있다. 다만 이 모든 것의 시작에는 변화하는 전쟁 패러다임, 작전 개념, 무기체계 간 역할 재정립, 그에 따른 새로운 운용 개념까지 구체적이고 다면적인 고민이 우선되어야 한다. 또 AI를 단순 도구로만 바라보기 보다 국방전략 전반에 중추적 역할로서 연결시키는 인식의 변화도 필요하다. 이를 바탕으로 기존의 무기체계는 물론 새로운 무기체계에 어떤 AI혁신을 더해야 할지 치밀하고 유연한 설계, 민간을 포함한 폭넓은 협력까지 이어진다면 새로운 힘의 균형에서 분명한 경쟁력을 가질 수 있을 것이다.
L NOTE
[Vol.2] ISSUE NO.9
날 공격하는 AI? 깨져버린 전쟁의 금기
새로운 힘의 균형 '평화를 원한다면 AI전쟁을 준비하라’
