AI는 인간에게 대적하게 될까?
AI를 바라보는 불편한 시선 - 현재와 미래
"I'm sorry Dave, I'm afraid I can't do that."
"데이브, 미안합니다. 유감이지만 그럴 수 없습니다."
영화 <2001: 스페이스 오디세이>의 명장면미국 영화 협회 선정 악역 14위이자, 노스탤지어 크리틱(Nostalgia Critic) 선정 무서운 연기 1위에 뽑힌 HAL 9000의 가장 유명한 대사이다. HAL9000은 세계적인 SF 작가 아서 C. 클라크 경(Sir Arthur C. Clarke)의 단편 과학소설 및 이를 원작으로 하는 스탠리 큐브릭(Stanley Kubrick) 감독의 영화 <2001: 스페이스 오디세이 (a space odyssey)>에 등장하는 인공지능이다.
HAL9000은 작중에서 우주 탐사에 나선 디스커버리 우주선의 모든 작업을 감독한다. HAL의 가장 큰 특징은 무감각해 보이는 빨간 렌즈이다. 고요하게 빨간 불만 들어오고 그(영화에서 HAL을 He로 지칭)가 등장할 때면 배경 음악도 사라지는 우주선의 분위기는 섬뜩한 느낌을 자아낸다. 그러면서도 언뜻 비치는 그의 친절함 역시 관객들의 뇌리에 강하게 남아있다. 작중 탐사 대원인 프랭크 풀과의 체스 대결에서 이긴 후 예의 바르게 인사를 한다든지, 선장 데이비드 보먼의 예술적 재능을 칭찬하는 그의 모습은 매혹적이면서 역설적이게도 불안하고 소름이 끼친다.
결국 HAL9000은 그가 생각하는 임무를 완수하기 위해 승무원들을 살해하기 시작한다. 동면 중인 승무원들을 먼저 살해하고, 같이 체스를 둔 프랭크는 우주 공간으로 보내버려 죽음을 맞이하게 한다. 그리고 마지막으로 우주선에 갇힌 데이비드에게 침착하게 말한다. <양들의 침묵>에 나온 한니발처럼 그는 흠잡을 데 없는 매너로 폭력에 대해 사과를 하지만, 살인을 위한 행위를 멈추지는 않는다. (양들의 침묵에서 한니발 역을 한 앤서니 홉킨스(Anthony Hopkins)는 HAL의 연기를 많이 참고했다는 것을 인정했다. 미국 영화 협회 선정 악역 1위는 바로 한니발이다.)
스페이스 오디세이 영화는 역대 최고의 SF 영화를 넘어 영화 역사상 최고의 걸작 중 하나로 회자된다. 지금 봐도 촌스럽지 않은 완성도는 물론이고, 완벽한 음악 연출과 영화 전반을 관통하는 니체의 철학까지. 영화는 우리에게 많은 생각거리를 안겨주지만 여기에서는 인공지능인 HAL9000에만 집중해 보자. HAL이 보여준 냉혹 하면서도 섬뜩한 연기는 훗날 수많은 찬사와 함께 많은 패러디를 가져오고, 그를 오마쥬 하는 작품도 많이 등장하게 된다. 그는 이후 등장할 수많은 기계적 오류를 일으키는 인공지능의 시초라고 해도 과언이 아니다.
이제 우리는 인공지능과 기계 문명이 인류를 공격하는 것이 낯설지 않다. HAL9000 이후 등장한 수많은 SF 소설과 영화에서 우리 인류는 인공지능에 의해 수백 번 멸종된 바 있다. 인공지능의 역습을 담은 수많은 작품 중 가장 유명한 작품들은 뭐니 뭐니 해도 <터미네이터>와 <매트릭스>, <블레이드 러너> 등을 들 수 있다.
터미네이터에 등장하는 스카이넷(Skynet)이라는 인공지능은 핵전쟁을 시작으로 인류를 멸망시키고자 한다. 매트릭스 역시 인류와의 전쟁에서 승리한 기계들이 인간을 노예로 만들고 가상현실 속에 가두면서 이야기가 시작된다. 필립 K. 딕(Philip K. Dick)의 소설 <안드로이드는 전기 양의 꿈을 꾸는가?>를 영화화한 블레이드 러너 역시 인간과 거의 구분되지 않는 안드로이드와 인간 사이의 갈등을 다루고 있다.
이들 작품은 인공지능과 기계의 발전에 따라 벌어질 미래를 현실감 있게, 그리고 우울하면서도 희망이 조금 엿보이게 그렸다는 점에서 평단과 관객들의 사랑을 받았다. 특히 매트릭스 시리즈의 1편은 엄청난 평단의 찬사와 함께 열혈 팬들도 다수 만들어 냈다. 심지어 매트릭스의 세계관을 바탕으로 하는 철학 논문도 쏟아졌다. 그렇기에 본 포스트에서는 널리 알려진 터미네이터, 매트릭스가 아닌 누군가에겐 익숙하지만, 누군가에겐 생소할 수 있는 콘텐츠를 가지고 이야기를 이어나가고자 한다.
바로 2018년 PlayStation 4용으로 출시된 프랑스 게임회사 퀀틱 드림(Quantic Dream)의 <디트로이트: 비컴 휴먼(Detroit: Become Human)>이라는 게임이다. 이 게임은 '인터렉티브 무비'라는 다소 독특한 장르로, 플레이어가 등장인물이 되어 행동을 하고 선택을 하게 되고, 작은 선택 하나하나가 모여 스토리에 반영이 된다. 사소한 결정이 엔딩에도 영향을 주는 게임이다. 보통 유부남들은 집에서 PS4 등의 게임을 할 때 눈치를 많이 보게 된다. 나 역시 마찬가지였지만 와이프가 유'이'하게 관심을 가졌던 게임 중 하나가 바로 디트로이트: 비컴 휴먼이다. (또 하나의 게임은 '언차티드' 시리즈이다) 와이프는 게임 스토리가 너무 흥미진진해서 플레이하는 게임을 영화 관람하듯이 지켜보았고, 이 게임만은 반드시 와이프가 있을 때 사전 고지를 하고 플레이해야만 했다. 패드는 내가 잡고 있었지만, 선택은 함께하는 색다른 재미를 안겨준 게임이기도 하다.
최근 PC 버전으로도 출시하며 인기를 끌고 있는 게임 <디트로이트 : 비컴 휴먼>그럼 얼마나 재밌길래 게임에 전혀 관심 없는 사람도 지켜볼 수밖에 없었을까? 게임은 2038년 디트로이트 시를 배경으로 하고 있다. 이 시기에는 인간처럼 생각하고 움직일 수 있는 안드로이드가 일상의 여러 분야에서 활용되고 있다. 안드로이드들은 인간과 거의 동일한 외형을 가지고 있고, 형사와 같은 직업에 종사하며 인간의 일을 대신하거나 가정에서 도우미로서 존재한다. 여기까지는 어찌 보면 뻔한 소재라고 볼 수 있다. 하지만 이 게임의 장점은 우선 플레이 방식이다. 앞서 얘기한 것처럼 게임은 플레이어의 선택에 따라 이야기가 바뀌는데, 단순 분기점에서 선택하고 이것이 결말로 이어지는 뻔한 방식이 아니다. 과거의 사소한 선택들이 나비효과처럼 결말과 이야기의 진행에 큰 영향을 미치게 된다.
심지어 플레이어가 직접 플레이할 수 있는 캐릭터는 3개, 아니 3명의 안드로이드이다. 기존의 인공지능과 인류 대결을 다룬 작품에서는 인류의 관점에서 서사가 진행되었던 반면에 이 게임은 안드로이드 관점에서 게임이 진행된다. 안드로이드에 대한 인간들의 부정적인 감정을 직접 느낄 수 있고, 쓰레기와 같은 인간들을 만나며 우리가 안드로이드가 된 마냥 실망하게 되고 분노하게 된다. 게다가 작중에서 플레이할 수 있는 안드로이드들은 인간 관점에서는 불량품이지만, 안드로이드 관점에서는 '특이점'을 넘어 자아가 생성된 상태이다. 그렇기에 플레이어는 안드로이드에 몰입해서 인간과 대척하는 색다른 경험을 해볼 수 있게 된다.
자, 그러면 게임에서 나오는 수많은 선택지들 중 대표적인 장면 2개를 가지고 와봤다. 글을 읽는 여러분들도 한 번 게임을 한다 생각해 보고 선택을 해보자. (스포일러를 최대한 피하여 서술함)
장면 1) 학대당하는 아이를 보고 있는 안드로이드 카라(Kara)
카라가 돌보는 아이 앨리는 아빠에게 학대를 당한다아름다운 외모의 여자 안드로이드 카라는 술과 마약에 쩔어 사는 40대 아저씨에게 고용되었다. 이 집에는 아저씨의 어린 딸 앨리스(Alice)가 있으며, 부인은 이미 집을 나간 상태이다. 그러던 어느 날 주인은 카라가 보는 앞에서 딸을 학대하기 시작한다. 여기서 안드로이드는 어떤 선택을 해야 할까?
아이를 적극적으로 보호해서 집에서 탈출시켜야 할까? 아니면 소극적으로 아이를 방으로 데리고 가 문을 잠가야 할까? 그것도 아니면 안드로이드로서 본분을 지키기 위해 그냥 지켜봐야 할까?
게임상에서 보통의 안드로이드들은 이 상황에서 주인에게 반항을 하지 않도록 설계되어 있다. 하지만 카라는 이미 특이점이 온 상황이라 개입을 할 수 있다. 여기서의 선택이 엔딩까지 두고두고 이어진다. 잘못된 선택은 카라와 여자아이의 사망까지도 가져올 수 있으며, 최선의 선택은 안전한 도피를 가능하게도 한다. 당신의 선택은 무엇인가?
장면 2) 안드로이드 해방 운동을 주도하는 마커스(Markus)
마커스는 평화시위와 폭력시위 사이의 분기점에서 선택을 해야만 한다.유명 화가의 비서로 일하던 안드로이드 마커스는 화가의 망나니 아들과의 갈등으로 쫓겨 다니게 되고, 우여곡절을 겪다가 안드로이드 해방집단 제리코의 리더가 된다. 마커스는 안드로이드의 평등한 권리를 위해 제리코를 이끌고 투쟁에 나서게 되고 가장 중요한 선택의 기로에 놓이게 된다.
'비폭력 평화시위'를 할 것인지, '폭력 무장투쟁'을 할 것인지의 선택이다.
극 중에서 비폭력 무장시위는 마하트마 간디 또는 마틴 루터 킹을 연상시킨다. 비폭력 시위는 간디의 그것과 닮았으며, 도로에서의 행진 장면은 마틴 루터 킹의 셀마 행진의 그것과 닮았다. 하지만 비폭력 시위의 한계는 여론은 우호적일 수 있으나 당장의 시위에 나선 안드로이드에 대한 폭력적 진압은 막을 수 없다.
반대로 폭력 투쟁은 당장의 동료들은 지킬 수 있다. 하지만 1919년 독일 공산당 조직인 스파르타쿠스 연맹을 이끌고 반란을 이끌었으나 실패하고 자신을 비롯한 동지 수백 명이 고문당하고 사살된 여성 리더 로자 룩센부르크(Rosa Luxemburg)처럼 마커스의 봉기 역시 비극적 결말로 끝날 수 있다. 여러분의 선택은 무엇인가?
디트로이트:비컴 휴먼과 같이 인공지능 혹은 안드로이드가 인류에게 반기를 들 위험성은 다양한 작품에서 제기가 된다. 과거에는 소설이나 영화, 게임에서만 다뤄지던 이야기였지만 챗GPT의 등장 이후에는 이러한 위협을 실존적으로 느끼는 사람들이 늘어나고 있으며 인공지능 대가들도 인공지능의 위험성에 대한 경고를 진지하게 하고 있다. 딥마인드의 공동창업자인 무스타파 슐레이만(Mustafa Suleyman)은 최근 MIT테크놀로지와의 인터뷰에서 인간이 항상 주도권을 쥐고 인공지능이 넘을 수 없는 경계와 한계를 설정해야 한다고 이야기하였다. 그리고 이를 코드를 통해 구현해야 하고, 정부와 기관에서는 규제를 마련해야 한다고도 주장하고 있다. 하지만 이런 기술적인, 그리고 제도적인 접근만으로는 뭔가 한계가 있지 않을까?
다시 디트로이트:비컴 휴먼으로 돌아와 엔딩에 대해 이야기해 보자. 앞서 언급한 게임의 내용들은 최대한의 스포일러를 제거한 게임의 중요 분기점들이다. 이런 선택의 분기들이 겹겹이 쌓이며 이 게임의 엔딩 개수는 무려 1,000여 가지에 이른다. 안드로이드와 인류가 행복한 결말로 나아가는 완벽한 해피엔딩부터 모두가 공멸하는 새드 엔딩까지. 그리고 그 중간 어딘가에 위치하는 적당한 해피와 새드가 섞인 수많은 엔딩들까지 감안하면 이 게임은 다회차 플레이를 할 수밖에 없게 만든다.
여기에서는 인류와 안드로이드가 공존하는 엔딩의 조건들을 보며, 미래 사회에서 우리가 인공지능과 갈등 없이 지낼 수 없을지를 고민해 보는 것은 어떨까? 게임에서는 인류와 안드로이드가 평화롭게 공존하기 위해 주인공들이 안드로이드에게 호의를 보이는 인간들과 좋은 관계를 유지해야 한다. 카라의 경우 자신이 보호하는 아이인 앨리스와, 마커스의 경우 비폭력적인 시위를 통해 인간들에게 안드로이드의 권리를 인정받는 방향으로 가는 것이 좋다. 위에서 언급하진 않았지만 또 다른 주인공 안드로이드인 코너(Conor)의 경우에도 동료 인간 형사인 행크(Hank)와 관계를 잘 유지하는 것이 상당히 중요하다.
이처럼 인공지능을 제어할 수 있는 기술적, 제도적 토양 위에서 인공지능과 인간의 공존을 위한 상호 공감대 형성이 어쩌면 답이 될 수 있다. 인간은 도구로서가 아닌 함께하는 파트너로 인공지능을 바라보고, 인공지능 역시 인간을 배려하는 토양에서 개발되어야지 만이 극단적인 사태를 방지할 수 있을 것이다. 허나 우려되는 것은 전 세계적으로 확산되고 있는 '혐오' 정서이다. 우리는 이미 정치, 종교, 성별, 세대 간 갈등을 넘어 혐오를 하는 세태를 보고 있다. 대혐오의 시대에서 인공지능 역시 혐오의 대상으로 바라보는 일이 벌어지지 않을까? 디트로이트: 비컴 휴먼에서도 안드로이드를 혐오하는 인간들의 모습을 보여주는 것으로 게임이 시작된다. 어쩌면 이 시작 장면과 같은 장면이 근미래에 나타날 것 같다는 느낌은 나만의 기우일까?
