창발성을 드러내는 AI, 인형사가 될 수 있을까?
영화 <공각기동대> AI 관점에서 리뷰
1995년 개봉한 오시이 마모루 감독의 극장판 애니메이션 <공각기동대>. 사이버펑크 영화의 대표주자로 꼽히는 공각기동대는 이후 SF 영화 <매트릭스>, <제5원소>에 많은 영감을 준 것으로 알려져 있다. 일본 문화가 유행하던 90년대 많은 학생들은 <에반게리온>에 열광하였고, 나를 비롯한 소수는 <공각기동대>에 열광하였다. 세기말인 90년대에는 21세기에 대한 두려움과 기대감을 반영한 작품들이 대중들에게 많은 호응을 얻었고, 그중 공각기동대는 작품에서 전달하는 메시지가 현대에도 통용이 될 정도로 작품성을 갖추고 있기에 아직도 회자되고 있다.
<공각기동대>의 영문 이름 <Ghost in the Shell>배경은 2029년이다. 인간의 뇌도 네트워크의 일부가 된 사회. 국가와 사회는 하나의 거대한 네트워크를 이루고 있고, 인체는 전자부품으로 쉽게 대체되고 있다. 특히, 인간의 두뇌는 부분적으로 컴퓨터화되어 전뇌(전자두뇌, 사이버네틱)라 불리게 된다.
주인공인 쿠사나기는 뇌와 척수 일부를 제외하고는 모두 부품으로 구성되어 있는 사이보그이자 인간이다. 공안9과에 소속되어 있는 쿠사나기 모토코 소령은 전 세계에서 벌어지고 있는 사이버 범죄에 대응하는 임무를 수행 중이다. 임무를 수행 중에 만나게 되는 혼란스러운 현실에 쿠사나기는 끊임없이 고뇌한다. "어쩌면 자신은 아주 옛날 죽었고 지금 난 전뇌와 의체로 구성된 가짜 인격이 아닐까 하고. 주변 상황을 보고 '나'다운 게 있다고 판단하는 것뿐."이라고 말하는 쿠사나기는 끊임없이 자신의 정체성을 의심하고 의심한다.
끊임없이 자신의 존재에 대해 고민하는 주인공 쿠사나기끊임없이 자신의 정체성을 고민하는 쿠사나기를 보면 '의식이란 무엇인가?' 하는 본질적인 의문을 던지게 된다. 철학사에 나타나는 의식에 대한 두 사조, 인간의 의식은 존재하지 않고 우리가 의식이라 느끼는 것은 속성들의 번들이라 주장하는 데이비드 흄의 '번들 이론(Bundle theory)'과 자아는 실제로 존재한다고 주장하는 데카르트부터 내려오는 '에고 이론(Ego theory)' 사이에서 주인공은 방황한다. 시청자는 어떻게 생각하는지를 물어보면서.
공각기동대의 영향을 받은 <매트릭스>가 철학 논문에서 인기가 많았듯이, 공각기동대를 다룬 철학적인 글들도 많다. 철학적 소양이 부족하기에 여기에서는 아주 짧게만 언급하고자 한다. 공각기동대를 철학으로 해석한 가장 대표적인 작품은 공각기동대를 니체의 관점에서 해석한 고병권 박사가 공저자로 참여한 <이것은 애니메이션이 아니다. 문학과 경계>라는 책에 수록된 글이다. 해당 글에 따르면 니체가 <짜라투스트라는 이렇게 말했다>에서 이야기한 '인간성 극복'의 개념을 영화를 관통하는 철학적 화두로 꼽고 있다. 니체가 <짜라투스트라>에서 얘기하는 '스스로 죽음을 원하는 인간'은 '최후의 인간'을 극복하고 인간을 넘어선다. 니체가 그렇게나 바라던 초인(bermensch, 위버멘시)이 되는 것이다. 공각기동대의 주인공"들"처럼 말이다.
영화에서는 또 다른 주인공이 등장한다.
바로 인형사(Puppet Master)이다.
인형사는 줄에 묶인 인형을 조종하는 사람을 뜻하는 것으로, 영화 속 해커 인형사는 사람들을 인형처럼 조종한다는 뜻에서 붙은 별명이다. 앞서 얘기한 주인공 쿠사나기 소령은 공안9과에서 바로 이 인형사를 사로 잡기 위한 임무를 수행 중이었던 것이다.
정치적 망명을 신청하는 인형사영화의 두 주인공 쿠사나기와 인형사는 끊임없이 존재와 실존에 대한 의문을 작품을 통해 던진다. 뇌의 일부를 제외하고 사이보그인 쿠사나기와 네트워크에만 존재하는 인형사는 서로를 거울 바라보듯이 보며 자신들만의 답을 찾아간다. 인형사의 대사 하나를 보자.
"유전자도 자기 보존을 위한 프로그램에 불과하며, 생명 역시 정보의 흐름 속에 생긴 결정체"라는 인형사의 대사는 인간이라는 존재에 대한 근원적인 질문을 던지게 된다. 인형사에 영향을 받은 쿠사나기와 쿠사나기에게 영향을 받은 인형사는 마지막에 니체가 얘기한 '스스로 죽음을 원하는 인간'이 되는 선택을 하며 무한한 네트라는 공간으로 가게 된다.
존재론, 의식에 대한 근원적인 질문은 철학적으로 많은 논쟁이 있기에 여기서는 다른 면에 집중해보고자 한다. 과연 인형사는 어떻게 탄생하게 되었는가?
사람이 만든 네트워크 안에서 자율적으로 생존하고 통제 불가능한 인격이 생겨났다. 그게 바로 인형사이다. 네트워크에서 자발적으로 탄생하게 된 인형사는 스스로를 살아있다고 규정하고, 정치적 망명을 신청하고 몸을 찾기 위한 노력을 하게 된다. 인형사가 궁극적으로 노리는 몸이 바로 쿠사나기의 몸이었던 것이다.
네트워크라는 공간에서 자발적으로 탄생한 인형사. 최근 챗GPT를 비롯한 초거대 인공지능 모델을 기반으로 하는 인공지능이 속속 등장하면서 인형사와 같은 인공지능이 나오진 않을지 우려 섞인 시선이 나오고 있다. 영화 매트릭스나 터미네이터 속 현실이 실제로 구현되지 않을까 하는 걱정 역시 쉽게 찾아볼 수 있다.
이러한 걱정을 하는 사람들에게 하나의 더 두려움을 주자면 최근 인공지능은 예상외의 능력을 발휘하는 '창발(emergence) 속성'을 보인다는 연구 결과들이 발표되고 있다. 인공지능에서 창발 속성이라고 하는 것은 작은 모델에서는 관찰할 수 없으나 모델이 커지면서 나타나는 예상외의 복잡한 특성을 의미한다. 인공지능에게 사전에 훈련을 시키지 않았음에도, 대규모 뉴런들이 대용량의 학습 데이터를 받아들이는 과정에서 예측할 수 없었던 놀라운 특성이 튀어나오는 것이다. 가르친 것만 학습한다는 인공지능의 기본 개념이 흔들리고 있는 것이다. 기존에 학습한 내용들을 기반으로 추론하고 논리적 사고를 해서 새로운 것을 배워가는 현상들이 목격되고 있다.
문제는 인공지능의 이러한 창발 속성이 왜 일어나는지 연구자나 개발자는 아직 모른다는 것이다. 다만 이러한 창발 현상의 출현은 생물학적 연구 결과에서 힌트를 얻어볼 수 있다. 브라운 대학교의 컴퓨터 과학자 엘리 파블릭은 "더 큰 모델은 자발적으로 새로운 능력을 얻는다. 모델이 확장될 때 근본적인 변화가 발생한다."라고 이야기하며, 최근의 초거대 인공지능 모델이 자연적으로 새로운 기능을 만들어내고 있다는 분석을 하고 있다. 더 큰 문제는 인공지능의 창발 속성이 원인을 모르기에 예측도 불가능하다는 것이다.
다시 영화 <공각기동대> 이야기로 돌아가보자. 공각기동대의 인형사는 네트워크에서 자발적으로 발생했다. 공각기동대 세계에서 네트워크는 모든 곳에 다 펴져있다. 인간의 뇌와도 연결이 되어 있다. 초거대 네트워크였기에 의식을 가진 존재인 인형사가 태어나게 된 것이다.
지금의 인공지능 역시 모델이 커지고 있다. 뉴런들을 연결하는 네트워크가 커지고 있는 것이다. 그래서 창발 속성이라고 하는 예측 불가능한 속성들이 출현하고 있다. 지금의 인공지능 모델은 앞으로 더 커질 전망이다. 현대의 인공지능 학자들은 급속도로 발전하는 뇌과학을 참고하고 있다. 인간의 뇌 구조를 컴퓨터로 구현하고자 한다.
마치 인형사가 태어나는 과정과 비슷하지 않은가? 지금은 언어적인 속성에서, 추론적인 영역에서 창발성을 보이는 인공지능이지만 더 네트워크가 커진다면 인형사가 탄생하지 않는다고 누가 보장할 수 있겠는가? 95년 작품인 <공각기동대>가 던져주는 메시지는 현재 진행형이다. 인공지능은 점점 인형사가 되어가고 있다.
추신)
물론 아직 창발속성에 대한 논의는 학계에서 진행 중이다. 이에 대한 여파를 비교적 가볍게 여기는 학자들도 상당히 많다. 다만, 시간이 흘러감에 따라 점점 논의는 격해질 것이다. 우리는 영화를 통해 소설을 통해 다양한 디스토피아를 접해봤기에.
다음 글에서는 오늘 글의 반대 입장을 한 번 조명해 보겠다. 현대의 인공지능이 합스부르크가문의 유전병이 나타났던 것과 같은 현상을 겪고 있다는 학계의 시각. '합스부르크 인공지능'에 대해 다음에 알아보도록 하자.
