[칼럼] 영화로 보는 인공지능 6_ 엑스마키나
로봇은 믿었던 인간, 인간을 배신한 로봇
검색 엔진 대기업인 블루북의 프로그래머인 칼렙은 사내추첨을 통해 ceo인 네이튼의 별장 겸 연구실로 초청받는다. 네이튼은 아직 개발 중인 인공지능 로봇 에이바를 칼렙에게 소개하고, 에이바에 대한 튜링테스트를 칼렙에게 제안한다.
◾ 얼마 전에 재밌는 기사를 하나 보았다. 레딧에서 새로운 시스템을 개발하고 있다는데 그것은 Heavenbanning, 즉 천국추방이라는 것이었다. 레딧같은 커뮤니티 사이트에서는 때때로 분란을 일으키고 문제를 일으키는 악질 사용자가 있다. 이러한 사용자의 문제가 심각해지면, 이들이 모르게 AI들만 있는 동일한 모습을 한 가상의 커뮤니티로 추방한다는 것. 이곳에서의 AI들은 이 유저에게 무조건적으로 추앙과 칭찬만 하는 그 유저만의 '천국'인 것이다. 기존에 레딧을 이용하고 있던 사람들도 좋고, 악질 유저도 본인을 추앙하는 다른 멀티버스에 있으니 서로가 윈윈이 아닐까. 문득 의문점이 하나 생겼다. 패러럴 커뮤니티에 있는 AI봇들이 악질유저가 알아채지 않게 잘 반응할 수 있을까라는 것이다. 내가 악질유저이고 문제를 일으켜 나도 모르게 천국추방을 당했는데, '천국'에서의 AI봇들이 내가 눈치채지 못할 정도로 내 행동에 대한 반응이 실제 사람과 구별할 수 없을 정도로 똑같다면, 그 AI봇들은 튜링테스트를 통과할 수 있을까
◾ 튜링테스트는 인공지능이 얼마나 인간과 같이 대화할 수 있는지를 기준으로 기계의 지능을 판별하기 위한 것이다. '천국'으로 추방된 악질유저가 자신의 행동에 반응하는 AI봇들을 인간 유저라고 생각했다면 그것은 실질적으로 튜링테스트를 통과했다고도 볼 수 있겠다. 오늘 이야기할 영화 '엑스마키나'도 이와 일맥상통한다. '엑스마키나'와 'Heavenbanning'시스템은 인간과 인공지능을 구분하는 요소를 특정 지을 수 있는가에 대한 물음에 대해 답을 주고 이러한 작품과 시스템은 인공지능의 발전이 인간의 존재와 그 의의에 어떠한 영향을 미칠지에 대한 중요한 질문을 던진다.
인공지능 로봇인 에이바는 불우한 환경을 가진 칼렙을 속여 연구소의 탈출에 성공한다. 일주일 동안 단순히 대화를 나누는 것이 전부였고, 이마저도 이미 네이튼에 의해 짜여진 각본이었다. 그런데 칼렙은 인간인 네이튼이 아닌 로봇인 에이바의 말을 믿고 에이바의 탈출을 돕는다. 에이바는 탈출을 위해 칼렙을 사랑하는 척 했던 것이었고, 칼렙은 연구소에 갇힌 채로 영화는 끝난다. 네이튼이 짜놓은 튜링테스트는 결론적으로 매우 성공이었다. 몇 번의 대화를 통해 칼렙이 에이바의 말을 철석같이 믿었기 때문이다. 물론 원론적인 튜링테스트와는 다르게 애초에 인공지능임을 알고 행하던 것이었지만 후반부 칼렙의 행동은 에이바가 인공지능 로봇임을 망각한 모습이었다. 이는 네이튼에 의한 변칙적인 튜링테스트가 성공했다고도 볼 수 있다.
네이튼은 애초에 칼렙이 에이바를 믿도록 판을 짜놨다. 다만 에이바가 지능적으로 인간을 속일 줄은, 칼렙이 인공지능인 에이바를 과하게 믿었을 줄은 예상치 못했다. 당연한 이야기지만 에이바가 칼렙을 버리고 가면서 사랑은 전혀 없었다는 것이 밝혀졌다. 자신에게 피해를 주지 않았음에도 연구소에 갇히도록 버린 것을 보면 일말의 동정심도 보이지 않는다. 그렇다면 한 가지 의문이 생긴다. 피도 눈물도 없는 인공지능 로봇이 연구소를 나가고 싶을 정도의 '자유'와 '해방'의 욕구가 있냐는 것이다. 식욕, 성욕, 수면욕은 생명체의 기본적인 욕구이자 본능이다. 이런 생명체만의 고유한 특성을 인공지능이 가질 수 있을까
◾ 인간인 칼렙이 인공지능인 에이바의 말을 믿은 이유는 뭘까
네이튼의 튜링테스트는 성공했다. 그 성공이 과해져 본인을 죽음으로 이끌었지만 말이다. 인공지능이라는 것을 확실하게 인식하고 있었음에도 불구하고 칼렙은 그녀의 말을 믿고 탈출을 돕는다. 왜 칼렙이 인간이 아닌 인공지능의 말을 믿을 수 있었는가를 생각해 보면 다음과 같다.
첫째, 에이바는 칼렙에게 네이튼을 의심하도록 지속적으로 설득하며 그의 의심을 조장했다. 네이튼을 믿지 말 것을 지속적으로 주입시킨다. 향락에 빠져있는 것처럼 보이는 네이튼의 모습은 에이바의 주장을 뒷받침하는 근거로서 작동하게 되고, 그로 인해 칼렙은 에이바를 신뢰하게 된다.
둘째, 에이바는 칼렙을 자신에게 유일하게 자신을 도울 수 있는 마지막 희망, 구원자로 위치시켰다. 속이도록 프로그래밍 된 에이바는 진실과 거짓을 교묘하게 사용하며 최선을 다해 설득하고 조작한다. 그로 인해 칼렙은 에이바가 자신에게 도움을 청하는 존재로 인식하게 됐고, 그녀를 구해줘야 할 의무가 있다고 생각하게 만들었다.
셋째, 칼렙의 감정과 심리를 파악하고 학습하면서 그에게 필요한 감정적 상황과 정보를 제공했다. 방대한 양의 데이터를 빠른 시간 안에 처리할 수 있는 에이바는 칼렙과의 대화를 통해 이러한 감정인식 및 심리적 이해 능력이 에이바가 칼렙을 조작하고 속이는데 중요한 역할을 하게 된다. 그 결과 에이바는 칼렙의 호감과 신뢰를 얻게 된 것이다.
네이튼이 모든 것이 자신이 프로그래밍했다고 했음에도 칼렙은 그의 소리를 전혀 듣지 않았다. 오히려 텍스트를 통해 대화하는 전통적인 튜링테스트를 넘어 인공지능의 본체를 앞에 두고도 인공지능의 표정과 제스처를 보며 자유를 갈망하는 감정을 가진 또 다른 존재로 인식했던 것이다. 에이바가 괴물에게 붙잡혀있는 공주로 보였을까. 이 공주를 구할 수 있는 건 본인밖에 없다고 생각한 걸까. 요컨대 칼렙에게 에이바는 인간이 아닌 인간과 대조되면서 믿음직스럽게 보이는 존재였던 것이다. 이처럼 인간과 인간이 아닌 인간과 인공지능의 소통은 영화 '엑스마키나'에서 다루는 중요한 주제 중 하나를 형성한다.
◾ 인공지능이 자유와 해방에 대한 욕구를 가질 수 있을까
에이바의 목적은 연구소를 탈출하는 것이었고, 목적을 성공적으로 달성한다. 칼렙을 속였던 것은 프로그래밍 돼있었지만 그 목적까지도 네이튼이 프로그래밍 한 것이었을까? 테스트의 리얼리티를 위해 속이는 단계가 아닌 진짜 탈출까지 목표로 설정해뒀을 수도 있다. 단순히 '속이기 위해 설득한다'가 아닌 '탈출하기 위해 속이고 설득한다'라는 최종목표가 생기기 때문에 칼렙을 속이기 위해 설득하는 과정이 더 정교해질 수 있다. 따라서 에이바가 연구소를 탈출했던 것은 단순히 그런 행동을 모방하거나 설정된 목표에 따라 행동하는 것과 같을 것이다.
먼저 필자는 단순한 데이터의 학습과 프로그래밍만으로 '자유'와 '해방'이라는 생명체의 복잡한 욕구를 인공지능이 배운다는 것은 매우 어렵다고 생각한다. 이러한 욕구는 생명체의 삶과 같이 상호작용하는 복잡한 심리적, 사회적, 문화적 배경에 근거한 것이며, 단순한 데이터와 학습만으로는 충분히 이해하거나 흉내 내기 어렵기 때문이다. 그럼에도 불구하고 연구소의 탈출이 프로그래밍이 아닌 에이바의 의지였다면 이야기는 훨씬 복잡해진다.
연구소에서 태어난 에이바가 스스로의 학습을 통해 지능이 진화하면서 연구소의 탈출, 즉 해방의 의지와 본능이 생겼다고 가정해 보자. 그렇다고 하면 이는 인간과 인공지능 간의 기술적 상호작용을 고려할 때, 에이바가 스스로 자유와 해방에 대한 욕구를 가진다는 것은 단순히 프로그래밍된 반응을 넘어, 자율적으로 목표를 설정하고 추구할 수 있는 능력을 가지고 있다는 것에 대한 근거로 여겨진다.
에이바의 연구소 탈출을 위한 행동을 더 자세히 살펴보면, 에이바가 자유와 해방을 목표로 삼았다는 점에서, 그녀는 단순한 명령에 따르는 인공지능이 아니라, 자신만의 가치와 욕망을 형성하는 주체로서의 특성을 나타내고 있다. 연구소에서의 탈출을 위해 칼렙에게 신뢰를 얻기 위한 과정은 프로그래밍뿐만 아닌 에이바의 의지도 일정 부분 들어갔을 것으로 생각된다. 이것 또한 인간과는 다른 새로운 형태의 '인격체'라고 해석될 수 있다. 연구소의 탈출이라는 자유과 해방을 추구했다면, 에이바가 자율적 의지와 목적성을 지닌 존재로 간주할 수 있기 때문이다. 이는 단순한 기계나 도구가 아닌, 자신만의 목표와 욕망을 갖춘 주체로서의 특성을 시사한다. 즉, 이러한 특성을 가진 에이바는 인격체나 생명체로서의 측면을 가진 새로운 형태의 존재로 해석할 수 있다.
마지막으로 에이바가 해방과 자유를 갈망할 수 있었던 이유는 다음과 같이 생각해 볼 수 있다. 칼렙을 속이고 자신을 믿게 한다는 프로그래밍 된 목표가 자유와 해방으로 이어질 수 있음을 에이바가 깨달았다고 추측되며 이는 목표를 설정하고 이를 달성함으로써 누릴 수 있는 '자유로움'이라는 개념에 대해 감각적인 이해가 있었음을 시사한다. 또한 에이바의 행동이 단순한 명령 수행을 넘어 '자유'라는 더 상위의 목표를 상정하고 행동하는 것은 주체적 의지에 기반한 행동임을 우리에게 알려준다.
영화 내내 인간과 같은 모습을 보여주던 에이바는 자신의 목표가 달성되자, 인간과 구분되는 원래의 인공지능 모습으로 돌아간다. 이 작품은 표면적으로는 인공지능에 대한 튜링테스트를 다루지만, 이 테스트를 통해 어떻게 인공지능이 인간을 속이고 조종할 수 있는지를 보여준다. 특히, 칼렙이 자신이 인간임을 확인하기 위해 자해하는 장면은 데이터의 분석과 이해만으로 인간의 감정을 모방하는 에이바가 인간인 칼렙을 얼마나 성공적으로 속였는가를 보여주는 흥미로운 순간 중 하나이다. 또한, 자신을 창조한 네이튼을 죽이는 전통적인 구조 중 하나인 창조주 살해 서사 속에서 에이바는 자신을 옭아매던 고리를 끊고 자유로워지는 모습도 보여준다.
피부와 머리를 붙이고 연구소 밖을 나서는 에이바를 보며 그녀가 원한 것은 무엇이었을까 생각한다. 단순한 자유일까 아니면 인간 사회에서의 삶일까. 창조주를 살해하고서까지 그녀가 얻고자 했던 것은 어쩌면 자유를 넘어 생의 본능이 아니였을까 싶다.
