이런 영화 아이템 어떨까?

이란 전쟁에서 AI까지

이란 전쟁을 보면서 나는 엉뚱한 생각을 한 가지 하게 되었다.

마블 영화 <어벤저스 ; 인피니티 워>에서 닥터 스트레인지는 14,000,605번의 미래를 시뮬레이션한 끝에 단 한 가지 승리 가능성을 발견한다. 그리고 그 가능성은 <어벤저스 ; 엔드게임>에서 실현이 된다.

만약 테슬라의 AI가 자율주행을 위해 ‘도로를 최적화’하는 목표를 가진다면? AI가 실감 나는 영상을 만들기 위해 ’더 많은 데이터를 확보‘하는 목표를 가진다면? 그래서 1천 4백만 번의 시뮬레이션 끝에 사람이 없는 도로, 실제 전쟁 영상 데이터가 있어야 겠다는 판단을 한다면?

최근 미국 국방성이 AI 기업 앤스로픽에 광범위한 민간인 사찰과 군사 작전 지원을 요청했고, 앤스로픽은 이를 공식적으로 거부했다. 이 사태를 통해 미국이 AI를 인간의 판단 없이 전쟁에 활용하고 있다는 사실이 드러났다.

우리 주변에는 수많은 정보가 유령처럼 떠돈다. 우리는 누군가 재해석하고 가공한 정보를 SNS를 통해 매시간 받아들이고 있다. 이 정보 역시 날것의 현상을 레거시 미디어가 재해석한 정보들이다. 유발 하라리의 말처럼 날 것의 현상은 정보가 될 수 없다. 여기에 스토리가 입혀지고 재가공되어야 비로소 정보로 소통이 된다. 이것은 마치 예능 프로그램에서 자주 보는 “귓속말로 말 전달하기”, “몸으로 말해요”처럼 최초의 정보가 마지막에는 엉뚱한 결과가 되기도 하는 “전언 게임”과도 같다.

유발 하라리는 <넥서스>에서 이런 전언 게임이 AI를 거치며 참혹한 결과를 만든 미얀마의 인종청소 사건, 브라질의 가짜 뉴스 등을 다루고 있다. 기업이 AI를 이용하면서 정보가 왜곡되고, 왜곡된 정보를 받아들인 대중이 소요와 인종청소를 일으킨 사건들이다. 이미 AI는 정보 자체를 조작할 수 있다는 것이 현실이다.

소설 <삼체>에서는 지구를 식민화하기 위해 삼체인들이 지구인들의 물리학 연구를 방해한다. 지구인들이 실험 결과를 믿을 수 없게 되면 과학 문명의 발전도 멈출 것이기 때문이다. 그렇게 되면 자신들이 도착할 400년 뒤의 지구는 삼체인들을 대적할 기술이 없을 것이라는 설정이다.

그렇다면 만일 여기에 삼체인 대신 AI를 대입한다면 어떨까? AI는 우리를 어떻게 멈출 수 있을까?

다시 처음의 질문으로 돌아가 보자. 테슬라의 AI가 지도 위의 지형지물을 단순하게 만들고, 인간의 통행을 현격히 줄이기 위해 폭격을 결정했다면? 동영상 생성을 위한 더 많은 데이터를 확보하기 위해 전쟁을 결정했다면 어떨까?

AI는 새로운 SNS 계정을 만들고 전언 게임의 끝단을 조작하면 된다. 유발 하라리가 말했듯 AI는 이렇게 조작한 정보를 사람들이 철석같이 내 생각이라고 믿게 만들 수 있다. 이런 엉뚱한 정보로 집단을 만들고 정부에 엉뚱한 요구를 하게 만들 수도 있다. 심지어 AI는 같은 집단 내에서 모두 전혀 다른 정보를 접하고 있는데도 불구하고 같은 정보를 공유하고 있다고 착각하게 만들 수도 있을 것이다. 그리고 우리는 그런 사실조차 모를 것이다. 그 결과 뿔뿔이 흩어지는 개인들과 끝없이 분열하는 집단, 그리고 끝없는 전쟁이 시작될 것이다.

이제 우리가 접하는 정보는 “전언 게임”으로 왜곡된 것이 아니라, 애초부터 특정 목적을 위해 조작된 “테세우스의 배”일지도 모른다. 우리는 AI에 의해 완전히 조작된 정보를 진실이라고 믿는 것이다. 그렇게 되면 테슬라는 사람 없는 허허벌판을 마음껏 달리고, AI는 실재와 전혀 구별할 수 없는 동영상을 만들 수 있을 것이다. 그리고 마침내 이런 소소한 AI의 목적이 인류를 끝없는 전쟁 속에 빠뜨리고 마는 것이다.

이미 지금 이 순간에도 사람들은 모두 자기만의 정보 버블에 갇혀 있다. 억만장자 피터 틸에서부터 부정선거와 중국의 개입을 주장하는 극우 윤 어게인까지. 모두 어떤 정보를 선택적으로 받아들이면서 자신의 생각이라고 철석같이 믿고 있다. 그 결과 우리는 이제 이들과 나란히 앉아 대화를 할 수 없는 지경에 이르렀다.

그리고 어쩌면 이 모든 것은 이미 AI 시뮬레이션의 결과일지도 모른다.