AI, 핵무기와 동급 레벨이 되다!?
AI를 전장에 활용하려는 움직임
매거진 안의 매거진. 드론전쟁과 AI에 관한 글을 비정기적으로 연재하고 있습니다. 앞선 글을 읽으면 좋지만, 안 읽으셔도 무방합니다. :)
전략 자산
Strategic Assets
전략자산, 영어로 'Strategic Assets'는 경영학에서 사용하는 용어로, 미래에도 높은 성과를 내기 위해 꼭 필요한 기업의 자산을 뜻한다. 하지만 우리 뉴스에 등장하는 '전략자산'은 조금 다르다. 영어로 번역하면 '전략적 군사자산(Strategic Military Assets)'이 더 정확하다. 이 용어는 주로 특정한 군사적 상황이나 조건에서 쓰이며, 한국과 미국의 군사 협력과 관련된 기사에서 자주 볼 수 있다.
북한과 대치 중인 우리나라 주변에는 미국의 전략자산이 많이 배치 중이다. 전략 폭격기인 B-1, B-52는 물론, F-22와 F-35 같은 스텔스 전투기, 핵추진 잠수함과 항공모함까지 주변에 배치되어 유사시에 투입될 준비를 하고 있다.
한국 주위에 배치된 미국의 전략 자산이처럼 우리에게 전략자산이란 미국의 최신 주력 무기, 그중에서도 핵과 관련된 무기를 떠올리게 한다. 하지만 최근 미국은 인공지능을 핵무기, 우주기술과 같은 전략적 자산으로 지정했다.
인공지능이 핵무기와 동급의 전략자산이 된 것이다.
미국의 바이든 행정부는 국가 안보의 핵심 우선순위로 인공지능을 선정했다. 지난해 AI 행정명령을 내린 데 이어 올해 'AI 국가안보각서(AI NSM)'를 발표하며, 인공지능 기술을 국가 안보에 적용하기 위한 구체적 지침 마련에 나섰다.
AI NSM은 민간 인공지능 기업과의 협력 강화, 모든 국가안보 기관의 최고 AI 책임자 지정, 인공지능 기술 도입과 활용 가속화를 골자로 한다. 이런 조치는 최근 러시아-우크라이나 전쟁에서 인공지능이 전장에 활용되기 시작한 점을 고려한 것으로 보인다. 또한 중국의 'AI 굴기'에 대응해 인공지능 분야에서 미국의 우위를 공고히 하려는 의도로도 해석된다.
최근 러시아 전쟁과 미 백악관의 인공지능 전략자산 지정 영향인지, 인공지능의 무기 활용에 대한 경각심이 급속도로 커지고 있다. 하지만 최근 수면 위로 부각됐을 뿐, 인공지능을 군사 작전에 활용하려는 움직임은 예전부터 있었다.
가장 유명한 것이 바로 프로젝트 메이븐(Project Maven)이다.
2017년 미 국방부가 시작한 인공지능 프로젝트인 메이븐은 군사 작전에서 인공지능 기술을 활용해 정보 분석과 전술적 의사결정을 혁신적으로 개선하는 것을 목표로 한다. 초기에는 드론 영상 데이터로 사람과 물체를 구별하는 기계 학습 기술 개발에 집중했다. 악천후나 저조도 환경에서도 인공지능이 군사 목표물을 효과적으로 탐지하고 식별하는 기술은 불확실한 전장에서 신속한 의사결정을 지원할 수 있다.
마치 러시아-우크라이나 전쟁을 예견한 것 같지 않은가?
대중들에게 프로젝트 메이븐이 알려진 건 구글 내부 직원들의 반발 때문이었다. 한때 구글의 회사 모토였던 'Don't Be Evil'에 위배된다고 볼 수 있는 프로젝트 메이븐에 구글이 관여하고 있다는 사실이 밝혀진 후, 내부 직원들의 반발은 극심했다. 결국 2019년 구글은 프로젝트 철수를 공식 발표했다.
하지만 구글이 빠졌다고 해서 프로젝트가 취소되지는 않았다. 팔란티어(Palantir), 아마존, 마이크로소프트를 포함한 여러 기업이 참여하며 프로젝트를 이어가고 있다. 정확한 참여 기업 목록과 구체적인 역할은 공개되지 않았지만, 아마존과 마이크로소프트는 여전히 클라우드 등 인프라 장비를 제공하는 것으로 알려져 있다. 현재까지 알려진 프로젝트의 핵심 기업은 팔란티어다. 이 기업은 메이븐 스마트 시스템의 주요 시스템을 설계하는 것으로 알려졌다.
팔란티어라는 기업이 낯선 사람도 있을 것이다. 하지만 러시아-우크라이나 전쟁을 유심히 살펴본 사람들에겐 이미 친숙한 기업이다. 바로 우크라이나군이 활용하는 살상용 드론 솔루션을 팔란티어가 제공하고 있기 때문이다. 팔란티어의 인공지능이 내장된 드론은 러시아군을 공격하고 있으며, 드론의 공격 성공률 역시 비약적으로 상승했다. 신참 드론 조종사의 명중률은 10%에 불과하고, 노련한 조종사도 50% 성공률 달성에 어려움을 겪고 있지만, 팔란티어의 인공지능 기술이 내장된 드론의 타격률은 80%에 육박한다.
최근 팔란티어는 국방 분야 AI 솔루션 제공 범위를 확장하고 있다. 또 다른 전쟁을 펼치고 있는 이스라엘을 지원하기 위해 이스라엘 국방부와 전략적 파트너십을 체결했으며, 이미 이스라엘에 인공지능 기술을 제공하는 것으로도 알려져 있다.
또한 최근 팔란티어는 앤트로픽과 협력을 시작했다는 사실을 발표했다. 챗GPT를 위협할 만한 엄청난 성능을 보이는 인공지능 서비스 클로드를 운영하는 앤트로픽이 미국 국방 분야에 참여한다는 소식은 많은 이에게 충격을 줬다. 오픈AI가 안전한 인공지능을 만들지 않는다며 불만을 품고 떠난 이들이 만든 회사 앤트로픽이 군사용 AI를 정부에 제공한다는 사실은 정말 아이러니하다.
국방 AI 분야에서 팔란티어와 아마존, 그리고 앤트로픽의 협업인공지능을 활용한 국방 기술 개발에 빅테크 기업만 나서는 것은 아니다. 많은 스타트업이 이 시장에 뛰어들고 있다. 2017년 설립된 방산 스타트업 안두릴(Anduril)은 실리콘밸리 스타일의 빠른 개발 방식을 국방 산업에 도입했다. 이들은 자체 개발한 인공지능 플랫폼을 기반으로 자율 드론 시스템을 개발했고, 미국 특수작전사령부와 10억 달러 규모의 계약을 체결했다. 최근에는 백팩에 휴대할 수 있는 살상용 드론을 공개해 화제가 됐다. 이 기업의 현재 가치는 약 140억 달러로 추정된다.
구글의 전 CEO 에릭 슈미트 역시 방위 산업에 뛰어들었다. 슈미트는 2023년 전투용 AI 드론 업체 화이트 스토크(White Stork)를 설립했다. 이 업체는 인공지능으로 표적을 자동 식별해 공격하는 드론을 개발하기 위해 설립됐으며, 슈미트는 우크라이나 전쟁에서 영감을 받아 화이트 스토크를 만들었다고 밝힌 바 있다. 구글의 성공을 이끈 그가 뛰어든 사업 분야이기에 많은 이의 관심을 끌 수밖에 없었다.
안두릴의 드론현대전의 양상이 급속히 변화하고 있다. 러시아-우크라이나 전쟁이 그 변곡점이다. 2024년의 전쟁은 전통적 무기체계보다 인공지능의 중요성이 커지고 있음을 보여준다. 그래서 미국을 비롯한 여러 국가가 인공지능 기반 국방 기술에 큰 관심을 보이고 있다. 미국은 인공지능을 전략자산으로 지정하면서까지 인공지능 기술 개발에 올인하겠다는 입장이다. 더 무서운 것은 돈 냄새를 맡은 세력이다. 벤처 캐피털은 2021년 이후 방위산업 기술에만 1,000억 달러 이상을 투자하고 있다.
여기까지만 보면, 마냥 AI 무기가 '악'인 것만 같다. 특히나 AI 무기가 민간인을 폭격했다는 뉴스가 나올 때면 사람들은 분노와 두려움부터 느낀다. 하지만, AI 무기를 둘러싼 윤리적 문제는 단순하지만은 않다. 마냥 민간인 오폭 등의 관점에서만 바라보면, 현재 전쟁터에서 확산되는 인공지능의 실상을 객관적으로 살펴볼 수 없다. AI 무기는 윤리적 관점에서도 양면성을 지니고 있기에, 다음 편에서는 우리가 고려해야 할 다양한 윤리적 요소들을 살펴보고자 한다.
