터미네이터가 온다

영화 '터미네이터'에 나오는 스스로 판단해 적을 살상하는 인공지능(AI) '킬러 로봇'이 곧 등장합니다. 이미 전쟁터에서 일부 기술이 활용되기도 했습니다. 기술 발전을 환호할 법도 하지만, 전 세계 군사·기술 전문가들이 한자리에 모여 킬러 로봇을 규제할 수 있는 시간이 얼마 남지 않았다고 경고합니다. 정보를 수집해 인간의 생사를 자동으로 결정하는 살상 무기가 전쟁을 더 참혹한 행태로 바꿀 수 있기 때문입니다.

영화 ‘터미네이터: 다크 페이트’ 스틸. 월트디즈니컴퍼니 코리아 제공

29일(현지시간) 미국에서 새로운 AI 기술이 공중 보건과 국가 안보 등에 위험을 초래할 수 있다는 내용의 정부 보고서가 일부 공개됐습니다. 

국토안보부가 석달 전 조 바이든 대통령에게 제출한 보고서의 일부 발췌본에 따르면, 자국의 생물학적·화학적 안보에 대한 규제 부족과 AI 활용 증가가 화학·생물·방사선·핵 공격 수행을 더욱 쉽게 만들어 줄 수 있다고 전망했습니다. 국토안보부 산하 사이버·인프라보안국(CISA)도 지난주 공개한 별도의 보고서에서 중요한 인프라를 겨냥한 공격 등 일부 공격이 AI를 이용해 수행될 수 있다고 경고했습니다. 

이날 오스트리아 빈에서 개최된 자율무기시스템 관련 콘퍼런스에 참석한 100여 개국 출신의 군사, 기술 관계자는 AI와 군사기술의 결합을 경제적으로 제재할 방안을 주제로 토론했습니다.

알렉산더 샬렌베르크 오스트리아 외교장관은 1945년 원자폭탄 개발을 주도한 후 핵무기 확산 통제를 주장했던 로버트 오펜하이머를 언급하며 '지금이 우리 시대의 오펜하이머 순간'이라며 규제 필요성을 강조했습니다. 알파벳의 AI 플랫폼 '딥마인드'의 초기 투자자인 얀 탈린은 확산하고 있기 때문에 킬러 로봇을 통제할 필요성이 더욱 커졌다고 지적했습니다.

전장에서는 이미 AI가 활용되고 있습니다. 이스라엘·팔레스타인의 독립 매체인 '＋972 매거진'은 지난달 이스라엘군이 '라벤더'라는 AI 프로그램을 사용해 암살 대상을 찾아내고 있다고 보도했습니다. 

지난해 12월 세계 150여 개국은 ‘무기체계의 AI와 자동화’ 등 새로운 군사 기술이 '심각한 도전과 우려를 야기한다'는 내용의 유엔 결의안을 지지한 바 있습니다. 다만 법적 구속력이 있는 규정을 자율살상무기에 부과하자는 제안은 각국의 입장 차이 때문에 추진되지 않았습니다. 

영화 '터미네이터' 속 AI 로봇 T-1000이 무서웠던 이유는 뭘까요. 제가 느낀 두려움은 '목표물'을 제거하기 위해서라면 그 과정에서 무고한 시민이 죽는 일 따위는 가볍게 무시하는 극단적인 효율성 때문이었습니다. 로봇은 생사의 결정을 알고리즘에 따라서만 수행하기 때문입니다. 

더 무서운 건 이런 로봇을 활용해 전쟁을 수행하는 인간입니다. 최소한의 양심의 가책을 느낄지 의문입니다. 대규모 살인이 일어났지만 '누구의 잘못도 아니었다'라고 변명하지나 않으면 다행이겠습니다.