<터미네이터> 시리즈의 터미네이터
A.I. PROJECT
영화 <터미네이터> 시리즈에서 'T-OOO' 형식으로 이름 붙여진 터미네이터들은 선역으로 등장하기도, 악역으로 등장하기도 한다. 미래에서 누군가를 죽이기 위해, 혹은 누군가를 구하기 위해 보내진 터미네이터는 강력한 신체 능력과 계산 능력으로 임무를 수행하기에 최적화된 모습이다. 게다가 인간이 아니기에 감정도 없다. <터미네이터>를 통해 인공지능이 과연 인류를 황폐화시킬지 걱정을 곁들여 생각을 나눠보자.
인공지능이 가져오는 디스토피아는 여러 매체에서 묘사됐다. 그중 전 지구적으로 가장 강렬하게 기억을 남긴 작품은 <터미네이터> 시리즈가 아닐까 싶다.
2019년에 개봉한 <터미네이터 : 다크 페이트>를 통해 시리즈들의 시간 순서는 뒤죽박죽이 됐다. 이전에 개봉한 <터미네이터3 : 라이즈 오브 더 머신>이나 <터미네이터4 : 미래전쟁의 시작>, 그리고 <터미네이터 제네시스>는 스토리상 '폐기'라는 표현까지 머금어야 했다.
<터미네이터>의 배경 설정은 확고하다. 인간은 국방 등의 산업에 인공지능을 활용한다. 인공지능들의 역량은 뛰어나서 스스로 발전한다. 종국에는 이를 경계하고 인공지능을 셧다운 하려고도 하지만, 인공지능은 오히려 인간을 적으로 설정한다. 기계는 'terminate' 해야 할 대상이 된 인간을 말살하기 시작한다. 이것이 <터미네이터> 시리즈의 배경이다.
◇ 터미네이터는 인공지능인가?
이번 글에서는 의미 없는 질문이다. 애당초 <터미네이터> 시리즈의 배경이 '인공지능'과 인간과의 전쟁이다. 그럼에도 불구하고 굳이 이 질문을 담은 이유는 '경고'다.
기술 업계에서는 획기적인 발전들을 이룩하고 있는 것처럼 포장해오고 있지만, 아직도 인공지능은 귤과 사과를 구분하지 못하고, 고양이와 개를 구분하지 못한다. 인공지능이라고 불리는 대부분의 '어떤 것'들은 여전히 복잡한 코드들의 종합, 알고리즘에 엮인 또 다른 알고리즘의 총량으로 이루어져 있을 뿐이다.
그래서 대중매체의 인공지능과 현실의 인공지능은 매우 괴리되어 있을 수밖에 없다. 다만 대중매체에서 묘사하는 인공지능들이 결국은 인간의 기대 수준을 담고 있기 때문에 '발전상'으로서의 의미가 있다. 그 수준까지 달성하기 위해 얼마나 걸릴지가 의문일 뿐.
<터미네이터> 시리즈에서 묘사된 스카이넷은 군사목적으로 개발된 인공지능 시스템이다.예를 들어보자. <터미네이터> 시리즈의 인공지능 시스템인 '스카이넷'은 1997년에 폭주한다. '심판의 날'이다. 이미 인공지능은 인간 사회의 다양한 분야에서 주요한 역할을 행해왔다는 설정이다. 1997년에는 인공지능 스스로가 인간과 전쟁을 해도 승산이 있다고 판단했기 때문에 '심판의 날'이 도래한 것이다.
현실로 돌아와 보자. 2020년에 우리는 여전히 '알파고'를 얘기한다. 바둑으로 인간을 이길 수 있는 정도가 현재 인공지능의 수준이다. 여러 회사들이 내놓는 '챗봇'이나 '인공지능 비서'들은 과연 우리가 기대하는 정도의 수준인가? 결코 아니다.
수준이 이렇기 때문에 나는 '인공지능 시대의 도래'에 대해 결과가 어떠하든 아직 먼 일이라고 항상 대답한다. 그래서 인공지능은 위협이 되지 못한다는 게 나의 생각이다. <터미네이터> 시리즈는 이런 생각을 가진 나와 같은 사람들에게 경고를 준다. 인공지능은 위협이 되지 못하는 게 아니다. '아직' 위협이 되지 못할 뿐이다.
<터미네이터> 시리즈는 인공지능이 인간을 적대적으로 여겼을 때, 인간에게 어느 정도의 지옥을 선사할 수 있는지를 생생하게 보여준다. 일종의 외양간이다. 경계 없는 발전은 결국 소를 잃게 만들 수 있다는 외양간 말이다.
◇ 로봇 3원칙이 터미네이터로부터 인간을 지켜줄 수 있을까?
§제1원칙 : 로봇은 인간에게 해를 입혀선 안 된다. 그리고 위험에 처한 인간을 모른 척해서도 안 된다.
§제2원칙 : 제1원칙에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다.
§제3원칙 : 제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 로봇 자신을 지켜야 한다.
- 아이작 아시모프 소설, 『아이 로봇』 중 언급된 [로봇 3원칙]
윌 스미스 주연의 영화 <아이 로봇>은 SF소설의 대가 아이작 아시모프가 쓴 동명의 소설을 원작으로 한다. 로봇 3원칙은 이 작품에서 최초로 다뤄졌다. 무려 1941년에 쓰인 작품이지만 로봇 3원칙을 곰곰이 읽어보면 작가가 얼마나 천재적이고 강한 통찰을 갖고 있는지 알 수 있다.
이 원칙은 딱 세 줄의 문장으로 이루어져 있을 뿐이지만 범접할 수 없을 정도로 견고하다. 로봇의 쓰임새, 로봇과 인간의 주종관계, 그리고 로봇의 자기 보호 의무까지 단 세 줄의 명제로 정리했다. 'AI 비슷한 어떤 것'도 나오지 않았던 시대부터 벌써 AI 시대가 도래했을 때 야기될 문제를 꿰뚫고 있다.
널리 알려진 만큼 '로봇 3원칙'은 성문화 되고 강제력이 있는 법처럼 느껴지곤 하지만, 사실 이 원칙은 그저 소설에 나오는 설정일 뿐이다. 많은 사람들이 착각하고 있는 부분이다. 즉, <터미네이터> 시리즈에서 수많은 인류를 말살하는 터미네이터들을 어떤 법으로도 처벌할 수 없고, 그들 또한 어떤 법도 위배하지 않았다.
아이작 아시모프는 '3대 SF 거장'으로 명명될 정도로 미래, 로봇 등에 대해 해박한 인사이트를 가진 작가이자 과학자였다.
『아이 로봇』을 비롯해서 『바이센테니얼 맨』 등의 작품을 통해 인간 수준에 이른 기계들이 인간과 어떻게 공존하게 될지 제시했다.
설령 이 '로봇 3원칙'을 명문화한다고 가정하더라도, 특이점을 넘어선 인공지능이 인간을 적대적으로 여기고 물리적인 공격을 가하기 시작한다면 어떻게도 제어할 방법은 없다. 인간이 인공지능의 발전을 멈춰놓는다고 가정할지언정, 이미 특이점에 오른 인공지능은 인간의 도움과 지시 없이 자가발전이 가능하다.
결국 우리는 <터미네이터> 시리즈처럼 '인간에 완벽히 적대적인' 인공지능이 도래했을 때, 로봇 3원칙은 무용지물이라는 점을 인정할 수밖에 없다. 다만 로봇 3원칙은 로봇을 제어하는데 아무 의미가 없다손 치더라도, 아직까지 인공지능이 그 정도 수준에 이르지 않은 상황에서 경계를 가져야 한다는 자각의 요소로 충분하다. 인공지능 비슷한 것도 실재화된 적이 없는 시대에 '로봇에 의한 인류 위협'을 걱정했다는 건 결코 지레 겁먹은 생각이라고만 치부할 순 없다.
◇ 기계가 감정을 이해하려면?
<터미네이터2>와 <터미네이터: 다크페이트>에서는 우리 모두의 터미네이터, 슈왈제네거 형님이 로봇임에도 불구하고 감정을 이해하고 표현하려는 모습을 보인다. 감정은 과연 무엇일까?
<터미네이터2>에서는 T-800이 '존 코너'를 보호하는 것 이외에는 인간의 어떤 것도 이해하지 못한 채 1997년의 지구에 등장한다. 감정 따윈 없는 T-800은 인간을 죽이고 해치는데 어떤 거리낌도 없다. 그는 수단과 방법을 가리지 않고 오로지 존 코너만 지키면 된다고 판단하여 행동한다.
하지만 존 코너의 명령과 조언에 따라 인간만이 가질 수 있는 감정 표현을 경험한다. 가령 유머를 가르쳐주는 존 코너의 모습, 그걸 기계적으로 습득하는 T-800의 모습이 이에 해당된다. 혹은 무작정 대시보드를 뜯어내서 차를 운행하려는 T-800의 결과주의적인 행동(기계식)에 대비되는, 차 안에 있을 키를 찾는 존 코너의 행동주의적인 방식(인간식)도 마찬가지.
개봉 후 30년 가까이 지났지만, 여전히 <터미네이터2>에서 T-800의 마지막 손가락은 많은 이들의 뇌리에 남아있다.뭐니 뭐니 해도 T-800의 마지막 장면에서 '인간 감정 이해'의 정점을 찍는다. 스스로를 파괴해서 지구상에 남아있는 인공지능을 없애려는 T-800. 존 코너는 이미 인간을 대하는 듯한 애정이 그에게 생긴 후다. 울면서 죽지 마라고 매달리는 존 코너의 모습은 영화 내내 재치 있고 용감하게 움직이던 '어린 전사'의 모습은 없어진 채, '어린이'의 모습만 남는다. 압권인 T-800의 대사.
"나는 눈물을 흘릴 수 없다. 하지만 네가 왜 눈물을 흘리는지 안다."
게다가 화염 속으로 들어가는 T-800의 손가락. 걱정하지 말라는 의미인지, 나는 괜찮다는 의미인지는 알 수 없지만 적어도 영화 초반의 완벽한 기계인 T-800이 할 행동이 아니었다.
<터미네이터: 다크페이트>에서는 아예 인간의 감정을 보여준다. 인간과 똑같은 행동, 말투, 표정, 디테일한 동작까지. 사라 코너는 분노하며 '그래 봤자 기계일 뿐'이며 적대시하고 경계하길 멈추지 않는다. 물론 T-800의 겉모습은 인간처럼 늙어서 관객들로 하여금 안쓰러움을 안기기도 한다.
다크페이트에서 터미네이터가 보여준 '감정'은 진짜 감정일까? 그는 인간과의 오랜 삶을 통해 경험적으로 감정을 재현한다. 인간에 섞여서 소통하는데 문제가 없어 보인다. 대체, 과연, 감정은 무엇일까?
감정을 인간의 것으로만 한정한다면, 아무리 T-800이 인간 사회에 섞여서 행동, 표현, 판단까지 기계의 방식을 버리고 인간처럼 보여준다고 해도, 그 모습은 절대 감정이 될 수 없다. 반대로 인간이 '감정'을 느꼈을 때 보이는 패턴화 된 행동들을 '감정 그 자체'로 이해한다면, 기계도 충분히 '감정이 있다'라고 평할 수 있을지 모른다.
감정을 표현하는 것과 이해하는 것은 다른 차원의 문제다. 감정을 생물학적으로 이해해야 할지, 철학적으로 이해해야 할지는 알 수 없다. 하지만 꼭 인공지능이 감정을 인간과 동일하게 표현해야만 '감정을 이해한다'라고 정의 내릴 건 아닌 것 같다. 왜냐면 인간처럼 표현하지 못해도 충분히 '이해는' 할 수 있기 때문이다.
강철 같은 근육과 그 속에 진짜로 감춘 강철들. 빨간 동공과 무색무취의 표정. 두려움 없는 행동들을 가진 T-800이지만, 그래서 목적에 따라 스스로를 'terminate' 시키는 것조차 일말의 망설임 없이 결정짓지만. 그럼에도 그는 존 코너의 눈물을 이해했다. 그리고 결연한 표정을 짓고 있는 사라 코너와도 눈빛을 나눈다.
◇ 인공지능으로부터 야기되는 포스트 아포칼립스
꼭 <터미네이터>가 아니라도 인공지능으로 인한 인류의 멸망은 과한 상상이 아니다. 만약 지구라는 하나의 '플랫폼'이 최대한 오래 안정적으로 지속되기 위해선 인간은 없어야 더 적합한 것이 사실이다. 인공지능이 신체를 갖고 인류의 개체 수를 조절해 버릴 만한 무서운 능력을 갖게 되었을 때, 그들은 판단을 하게 될 것이다. 인간이 지구에 존재하는 게 맞는지, 없어져야 맞는지.
영화 <아이 로봇>에서의 주인공은 기계의 기계스러운 판단 때문에 어린아이 대신 살아남았다는 트라우마를 지니고 있다.영화 <아이 로봇>은 로봇의 판단이 얼마나 기계적인지를 단적으로 보여준다. 한 소녀와 함께 주인공(윌 스미스 분)은 물에 빠졌다. 사람이라면, 당연히 어린 소녀를 먼저 구하려고 했을 것이다. 하지만 로봇은 둘 모두를 구할 수 없다는 판단을 확률로 내렸고, 마찬가지로 둘 중에 주인공이 살아날 확률이 더 높다는 이유로 주인공만을 구했다.
알파고는 절대 '찔러보지' 않는다. 자신이 학습한 수많은 바둑의 데이터들을 확률로 계산해서 어디에 돌을 놔야 하는지 가장 높은 확률을 낸 위치에 놓는다. 그것이 기계다.
영화 <매트릭스>에서 요원들은 인간을 바이러스로 묘사한다. 골자는 이렇다. 지구상에 사는 모든 생물들은 자기가 살고 있는 환경과 조화를 이룬다. 그것은 최적의 먹이사슬을 만들고, 지역과 환경에 따라 적절한 진화를 만든다. 이걸 거스르는 유일한 종이 인간이다. 인간은 오로지 자신이 존재하는 환경의 모든 에너지를 소진시키고, 해당 지역의 에너지가 소진되면 그곳을 떠날 뿐이다.
인류의 해악을 이야기한 건 <매트릭스> 뿐만이 아니다. 사진은 영화 <킹스맨> 중.우리는 <매트릭스>를 보지 않고도 인간이 지구에 만들어내는 해악들에 대해 이미 인지하고 있다. 오존이 파괴되고 미세먼지가 하늘을 뒤덮는다. 빙하가 녹고 바다에 기름과 플라스틱 쓰레기가 가득하다. <매트릭스>의 요원들이 인간과의 공존을 불허하기 위해 묘사한 '바이러스'라는 말만큼 사실 인간을 잘 묘사한 말이 없는 것처럼 보인다.
인공지능이 어떤 형태로 만들어지더라도, 지구를 기반으로 생존하게 될 것은 자명하다. 만약 인간이 지구 플랫폼에 큰 위해가 되고, 그로 인해 인공지능의 생존에도 언제가 위기가 올 것이라 판단한다면, 인공지능은 어떻게 할까? 인간 없이 인공지능이 자립할 수 있는 시점, 그리고 의도만 가지면 인간 정도는 큰 피해 없이 제압할 수 있는 시점이 된다면?
충분히 인공지능이 인류를 '정리'해야 된다고 결심할 명분이 된다. 지구를 지키기 위해서.
다만, 한 가지 가정은 해볼 수 있다. '인공지능'은 '인간처럼 생각하는' 지능이다. 만약 진짜로 인간과 '유사하게'가 아니라 '인간 수준으로' 생각하는 인공지능이 나타난다면, 아예 인간과 인공지능 스스로를 동종으로 판단할지도 모른다. 또한 위에서 이야기했던 <아이 로봇>의 사례와는 정반대로, 기계적으로만 생각하는 것이 아니라, 더 확률이 낮더라도 '인간과 함께 공존하는 방법'을 인간보다 인공지능이 먼저 모색하려 들지도 모른다.
이 푸른 별의 먹이사슬 꼭대기에는 인간이 있다.인간은 먹이사슬의 꼭대기에 있다. 강하고 거대한 지구상의 어떤 생물도 인간의 종을 흔들지 못한다. 인간을 가장 많이 죽이는 생명체는 모기다. 그다음으로 인간을 가장 많이 죽이는 생명체가 바로 인간 자신이다. '만약 인공지능이 인간보다 강해진다면'을 대비하기 전에 '이미 강해진 인간 스스로의 책임'을 되새겨야 한다. 지구를 밟고 있는 생물은 수만종, 수억 종, 혹은 수조 종에 이를지 모르지만, 지구를 뒤흔들 정도의 영향력을 가진 생물은 오로지 인간뿐이다. '큰 힘에는 큰 책임이 따른다'는 말이 히어로물에만 통용되는 것은 아니다.
인공지능이 가져올 아포칼립스라는 가정은 사실 '인간이 서서히 만들어가고 있는 아포칼립스'를 거울로 보여주는 것과 마찬가지다. 인공지능은 결국 인간을 닮을 것이다. 지구를 지배하고 소진할 것인지, 푸른 플랫폼이 오랫동안 아름답게 지속되도록 가진 모든 역량을 쏟아부을지는 인간 스스로가 결정해야 한다.
