팔란티어는 왜 미국 테크 기업들을 비판하는가

팔란티어 공동 창업자인 알렉스 C. 카프, 팔란티어 최고 업무 책임자인 니콜라스W.자미스카가 쓴 기술공화국선언을 보면 팔란티어는 자칭 미국 경쟁력 강화, 특히 국방쪽에 초점을 맞춘 우파 빅데이터 분석 소프트웨어 기업이다.

책을 보면 팔란티어가 현재 미국 테크 생태계를 어떻게 바라보는지, 또 끌고 가려는 방향은 어느 쪽인지 어느정도 파악할 수 있을 것 같다.

우선 저자들은 요즘 실리콘밸리 테크 기업들이 원자력 등 국가를 근본적으로 혁신할 수 있는 파괴적인 기술보다는 컨슈머 대상 서비스에 집중하는 것에 대해 대단히 비판적이다. 국가, 특히 국방과 관련해 협력할 경우 안팎에서 이런저런 논란에 휩싸일 수 있어, 일단 피하고 보자식의 마인드가 광범위하게 퍼져 있고 그러다 보니 국가 안보와 지정학 측면에서 미국이 갖는 경쟁력이 상대적으로 약화되는 장면이 펼쳐지고 있다는 것이다.

저자들은 국가 안보에서 AI를 포함해 소프트웨어가 갖는 전략적 가치고 커지고 있다는 것을 이유로 제시한다.

원자력의 시대가 저물고 있다. 지금은 소프트웨어의 시대다. 미래의 결정적 전쟁은 과거 무기들과 전혀 다르며 훨씬 빠른 속도로 진화중인 인공지능에 의해 좌우될 것이다. 하드웨어와 소프트웨어 관계도 근본적으로 뒤집히고 있다. 20세기에는 단순한 비행 제어부터 복잡한 미사일 항법 장치까지, 단순한 연료 시스템에서 실제 병력을 운송하는 장갑 수송 차량까지 하드웨어의 필요를 충족하려고 소프트웨어를 만들었다.

그러나 인공지능의 부상과 함께 LLM이 전장에서 데이터를 처리하고 표적 설정을 제어하게 되면서 관계는 바뀌고 있다. 이제 소프트웨어가 더 중심에 서고 유럽 등의 전장에서 운용되는 드론 같은 하드웨어는 인공지능이 내린 결정을 현실에서 구현하는 수단이 되고 있다. 이제 일반 무기에 비해 훨씬 적은 비용으로도 적을 찾아 제거할 수 있는 드론 부대가 등장할 날이 얼마남지 않았다

하지만 그런 기술과 운용에 필요한 소프트웨어 시스템에 대한 투자는 턱없이 부족하다. 미국 정부는 여전히 항공기, 함정, 탱크, 미사일 등 기존 인프라를 개발하는데 집중하고 있다. 그러나 이 무기들은 지난 세기에 전장에서 우위를 보여줬다. 이번 세기에서는 그만큼 중요한 역할을 하지 못할게 거의 확실하다. 미국 국방부는 2024년 인공지능의 역량을 구축하는데 총 18억달러를 요청했다. 이는 전체 국방 예산안 8860억달러 중 0.2%에 불과하다. 무력 사용에서 적보다 훨씬 높은 윤리적 기준을 지키려는 국가라면 단순히 적과 기술 수준이 같아 지는 것만으론 부족하다. 무고한 사람을 죽이는데 주저함이 없는 적에 맞서려면 윤리적 기준을 갖춘 사회의 무기 체계가 훨씬 더 강력해야만 한다. 그래야 효과적인 억지력이 될 수 있기 때문이다.

저자들은 제2의 맨해튼 프로젝트를 발굴해야 한다고 목소리를 높인다. 테크 기업들은 국가와 협력에 대해 필요하다면 욕을 먹더라도 적극 나서야 한다고도 거듭 강조한다. 이게 저자들이 말하는 기술공화국의 핵심이지 싶다.

미국과 동맹국은 지체하지 말고 새로운 맨해튼 프로젝트를 추진해야 한다. 이 프로젝트의 목표는 포적 식별 시스템, 드론 군단, 궁극적으로는 로봇까지 전장에서 사용할 가장 정교한 형태의 인공지능에 대한 배타적 통제권을 확보하는 것이다. 이런 지능형 시스템은 지난 세기의 전쟁을 규정했던 항공모함이나 전투기를 대신해 소프트웨어 중심의 전투 방식에서 핵심 역할을 하게 될 것이다. 그러나 현재 국방 예산을 감독하는 인력 체계는 수십년 정도 뒤처져 있다. 따라소 지금이야말로 국가 안보 투자의 우선순위를 긴급히 재편할 때이다. 미국과 유럽, 아시아의 파트너들을 결집하는 긴급한 노력을 지금 당장 시작해야할 때이기도 하다.

하지만 저자들에게 현실은 여전히 실망스러운 수준이다.

이 시대의 억지력이 될 인공지능 시스템 개발에 실리콘밸리의 기술 엘리트들이 미국 군대를 위해 일하는 것에 가장 회의적이라는 사실이 문제다. 차세대 인공지능 무기를 만들 능력이 있는 소프트웨어 엔지니어 세대 전체가 국가라는 개념을 외면하고 지정학이라는 혼란스럽고 도덕적으로 복잡한 현실에 무관심한 태도를 보이고 있다. 최근들어 일부 영역에서 국방 사업을 지지하는 움직임을 보이긴 했지만 대부분의 자금과 인재는 여전히 소비자 시장으로 몰린다.

우리가 하든 안하든 적들은 전장에서 사용할 인공지능 개발을 계속할 것이다. 우리는 적국 지도자들의 심리와 세계관에 관심을 잃어서는 안된다. 그들이 처한 제약과 권력을 유지하는데 따르는 위험, 개인적인 야망과 국민을 위한 포부를 면밀하게 탐구해야 한다. 평화주의의 매력과 억지력의 포기라는 유혹에 끌리는 이유는 세상의 복잡하고 불완전한 선택지 사이에서 괴로운 고민을 하지 않아도 된다는 점 때문이다.

그러나 현재 우리가 직면한 더 근본적인 질문은 인공지능을 결합한 새로운 자율무기를 만들지 말지가 아니라 누가 그 무기들을 만들며 어떤 목적으로 사용할지다. 지금은 소프트웨어의 세기다. 그러나 차세대 공격 능력을 구축할 능력과 조건을 가장 잘 갖춘 세대가 국가 방위나 공동체를 위한 프로젝트에서 가장 쉽게 물러서려 하고 있다. 이런 미국 정신의 공동화가 오늘날 우리가 직면한 교착 상태의 원인이 되었다. 미국 프로젝트의 공동화야 말로 우리를 지금처럼 무방비하고 취약한 상태로 내몬 결정적인 이유다.