가. 역외적용과 적용 범위, 그리고 법이 멈추는 곳 법의 힘은 그것이 미치는 범위에서 나온다. 인공지능기본법 제4조가 보여주는 것은 이 법의 팔이 얼마나 먼 곳까지 닿는지다.
제4조(적용범위) ① 이 법은 국외에서 이루어진 행위라도 국내 시장 또는 이용자에게 영향을 미치는 경우에는 적용한다.
OpenAI가 미국에서 ChatGPT를 개발·운영하더라도, 한국 이용자에게 서비스를 제공하는 이상 이 법의 적용을 받는다. Google이 일본에서 Gemini를 운영하더라도, 한국 이용자가 접속할 수 있다면 마찬가지다. 기준점은 '어디서 개발했는가'가 아니라 '누구에게 영향을 미치는가'다.
한편, 제4조에는 제2항이 있다. 어찌 보면 AI를 바라보는 관점 및 철학적 긴장을 품고 있는 문제적 조항일 것이다.
② 이 법은 국방 또는 국가안보 목적으로만 개발·이용되는 인공지능으로서 대통령령으로 정하는 인공지능에 대하여는 적용하지 아니한다.
법이 스스로 자신의 한계를 선언한 것이다. 국방과 안보의 영역에서 AI는 이 법의 시야 밖에 놓인다. 시행령 제2조는 이 예외의 범위를 구체화하여 국방부장관이 지정하는 무기체계·전력지원체계 관련 업무, 국가정보원장이 지정하는 대테러·방첩·산업기술보호 업무, 경찰청장이 지정하는 수사 및 보안 업무 등을 열거한다.
법 조문만 읽으면 합리적인 예외처럼 보인다. 국가안보는 특수한 영역이니 별도로 다루겠다는 것이다. 그러나, 그 뒤에는 인류가 오랫동안 씨름해온, 지금 이 순간에도 해결하지 못한 근본적 딜레마가 숨어 있다. 나. 프로메테우스의 불은 처음부터 이중적이었다.
기술이 파괴적 힘을 갖게 될 때 법이 어디까지 개입해야 하는가. 이 질문의 가장 극적인 선례는 핵 기술에서 찾을 수 있다.
1945년, 맨해튼 프로젝트의 과학자들은 인류 역사상 가장 파괴적인 기술을 만들어냈다. 흥미로운 것은 이 기술이 처음부터 군사적 목적으로 개발되었다는 점이다. 민간 기술이 군사화된 것이 아니라, 군사 기술이 나중에 민간(원자력 발전)으로 확산된 것이다. AI는 정반대의 경로를 밟고 있다. 검색 엔진과 추천 알고리즘에서 시작된 민간 기술이, 지금 전장의 핵심 인프라로 전환되고 있다.
팔란티어의 알렉스 카프가 쓴 '기술공화국'에는 빅테크기업이 과거 국가프로젝트였던 큰 기술을 선도하는 '역전 현상'에 대한 비판적 시각이 담겨 있다.
핵 기술에 대한 국제사회의 대응은 1968년 핵비확산조약(NPT)이었다. 핵보유국에게는 군축 의무를, 비보유국에게는 핵무기 개발 포기를 요구한 이 조약은 완벽한 체제가 아니었지만, 적어도 하나의 원칙은 확립했다. 파괴적 기술에는 국제적 규범이 필요하다는 것이다.
AI 무기에 대해서는 그 수준의 합의조차 이루어지지 않았다. UN은 2014년부터 특정재래식무기금지협약(CCW) 틀 안에서 자율무기체계(LAWS, Lethal Autonomous Weapons Systems)에 관한 논의를 진행해왔다. 2025년 5월 뉴욕에서 열린 UN 총회 비공식 회의에는 96개국이 참석했고, 사무총장 구테흐스와 국제적십자위원회(ICRC) 총재는 2026년까지 자율무기 금지를 위한 법적 구속력 있는 국제규범 마련을 촉구했다.
같은 해 11월에는 UN 총회 제1위원회에서 압도적 다수국가의 지지로 자율무기 규제 결의안이 채택되었다(UN 공보실 공식발표로는 164개국이 찬성).
그러나, 이러한 인상적인 숫자 뒤에는 자국의 이익을 고려한 냉혹한 현실이 있다. 자율무기 개발에 가장 앞서 있는 미국과 러시아가 법적 구속력 있는 규범에 반대한다는 사실이다. 미국은 2026 회계연도에 AI 및 자율시스템 연구에 134억 달러(18.8조 상당)를 배정했고, 2024~2025년 사이 수천 대의 소모성 자율 드론을 신속 배치하는 '레플리케이터(Replicator)' 프로그램에 10억 달러를 투입했다.
러시아는 우크라이나 전장에서 자율 드론을 실전 운용하면서 S-70 오호트니크-B(사냥꾼) 스텔스 드론을 시험 개발 중에 있다.
칼 폰 클라우제비츠가 "전쟁은 다른 수단에 의한 정치의 연속"이라고 했을 때, 전제가 있었다. 전쟁의 도구는 인간의 판단에 의해 통제된다는 것이다.
자율무기체계는 바로 그 전제를 뒤흔든다. 기계가 전장에서 표적을 선정하고 치명적 힘의 행사를 결정할 때, 인간이 전쟁의 주체라는 공리는 더 이상 자명하지 않다.