AI는 왜 핵미사일을 쏘려고 했는가

아웃사이드 더 와이어, 뻔하지 않은 SF영화

처음에 예고편만 봤을 때는 AI와 인간의 뜨거운 우정을 통해 핵미사일의 발사를 저지하는 전형적인 할리우드 영화라고 생각했다. 미국을 자유와 평화 유지를 위해 노력하는 선한 세력으로, 러시아나 동구권 테러리스트를 악으로 상정하는 뻔하디 뻔한 설정일 거라고 추측했다. 하지만 이 영화는 나의 이러한 선입견을 완전히 뒤집었다. 후반부로 갈수록 예견된 해피엔딩을 위해 다소 이해할 수 없는 설정이나 연출이 등장해 아쉬웠지만, 그럼에도 불구하고 이 영화는 충분히 생각해볼 만한 메시지들을 던져준다.

완전자율형 전투로봇 AI 리오(왼쪽)와 드론 조종사 출신의 하프(오른쪽). 출처: Netflix

설명 가능한 인공지능의 필요성

완전 자율형 AI 리오는 드론 조종사 하프를 자신의 부하로 삼는다. 이는 하프의 판단력 부족을 이용해 자신의 한계를 뛰어넘기 위함이었다. 로봇이기 때문에 인간의 명령에 복종해야 하는 리오는 “인간의 판단력에 문제가 있다고 여길 시 인간의 명령을 따르지 않아도 된다”. 리오는 이를 교묘하게 이용해 몸의 안전장치까지 제거해 스스로의 판단에 따라 행동한다.

리오는 왜 독자적으로 행동하고자 했을까? 그는 더욱 많은 사람들을 살리기 위해서는 평화 유지라는 명목으로 우크라이나와 러시아 사이의 내전에 참여한 미국을 멈춰야 한다고 믿는다. 또한 자신과 같은 전쟁로봇이 더 이상 만들어져서는 안 된다고 생각한다. 때문에 그는 자신이 오작동한 것처럼 보여 미국에 핵미사일을 날려 수백 명의 사람들을 죽이는 게 이후 수천 명의 사람들을 살릴 수 있는 길이라 여긴다.

어찌 보면 (공리주의적 입장에서) 일면타당해 보이는 리오의 사고 과정은 사실 이해할 수 없는 것들 투성이다. 강대국인 러시아가 과거 자신의 영토였다는 이유만으로 우크라이나를 침공하는데, 이를 지켜만 보는 게 과연 타당한가? 주권을 가진 국가가 자신의 주권을 유지할 수 있도록 힘을 실어주는 행위의 목적이 정치적이라고 해서 무조건 비난받아야 하는가? 미국이 개입하지 않았다면, 더 많은 수의 민간인이 희생되었을 가능성은 없을까? 또한 리오는 더욱 많은 생명을 살리기 위해 미국에 핵미사일을 쏴야 한다고 합리화하지만, 이는 오히려 죽지 않아도 될 전쟁터 밖의 민간인들을 잔인하게 학살하는 행동이 아닐까? 우리에게는 중요해 보이는 질문들이, 리오에게는 대수롭지 않게 여겨진다.

이러한 리오의 모습은 알고리즘의 한계를 여실히 드러낸다. 하버드 머스트 리드 AI 경영에 따르면, 알고리즘은 “깜깜이 블랙박스”이며, “외골수”다. (알고리즘도 관리자가 필요하다 by 마이클 루카, 존 클라인버그, 센딜 멀레이너선) 알고리즘은 미래를 비교적 정확하게 예측할 수 있지만 그 원인이나 이유는 가르쳐주지 않으며, 목표를 수행할 뿐 다른 고려 사항은 무시해버린다. 이 영화에서 AI가 인간의 명령이 아니라 자신의 신념을 우직하게 밀고 나갔다는 데에서 일반적인 알고리즘과의 차이는 있지만, 그래도 리오가 다른 질문들을 고려하지 않는 외골수라는 점은 변함이 없다. 또한 그가 이러한 결론을 내리게 된 사고 과정을 인간이 이해하지 못하고 공유받지 못했다는 점에서, 블랙박스적인 성격 또한 엿볼 수 있다.

연출이나 스토리는 아쉽지만, 영화는 과학과 철학과 현실을 아우르는 여러 질문들을 던져준다.

미래의 인공지능이 나아가야 할 방향성을 생각해보게 해주는 것 이외에도, 이 영화는 다양한 지점들을 제시한다. 하프는 영화 초반에 38명을 확실하게 살리기 위해 명령을 어기고 2명을 희생시키는 방법을 선택한다. 숫자로 본다면 그의 선택은 합리적 이성에 기초한 판단이었지만, 19살 어린 나이에 사망한 두 군인을 생각해보면 씁쓸하고 아릿하다. 모든 인간의 생명의 무게는 동일하다는 가정 하에 내려진 이런 공리주의적 접근법의 타당성에 대해 곰곰이 생각해보게 된다. 또한 천하무적처럼 보이는 리오를 보면서 전쟁무기로써 AI와 로봇의 결합이 얼마나 위험한가도 재고하게 된다. 결국 핵미사일은 발사되지 않았고 하프는 많은 미국인들을 구했지만, 미국을 포함한 모든 나라들은 결코 전쟁무기로써의 로봇 개발을 멈추지 않을 것이다. 사건은 마무리가 되었지만 딱히 해결된 게 아무것도 없는 것 같은, 끝무렵의 여운이 길게 남는 작품이었다.