영화, '공각기동대': 20세기 최고의 AI 묵시록

튜링 테스트와 존재론적 충돌 or 존재론적 혼동

2029년, 기업의 네트가 별을 뒤덮고 전자와 빛이 우주를 흘러다니지만, 국가나 민족이 사라질 정도로 정보화되어 있지는 않은 가까운 미래.

뉴포트(New Port)라는 이름의 어느 도시에서 일어난 이야기다. 이 도시가 속한 국가에는 두 개의 중요한 공안(公安) 부서가 있는데, 하나는 외교 문제를 담당하는 외무성 공안 6부이고 다른 하나는 각종 범죄를 담당하는 기밀 부서인 공안 9부이다. 대충 CIA와 FBI 정도로 이해하면 될 게다.

쿠사나기 여소령이 조금 늦게 9과에 도착했을 때에는 교통사고로 망가진 여자 사이버보디(cyber-body)가 벌써 도착해 있었고 요원들이 그녀의 보디 안에 있는 고스트(ghost)를 조사 중에 있었다. 그녀에게는 전뇌(전자두뇌)가 없는데도 고스트(ghost)가 감지되고 있었다. 9과 요원들은 그녀의 보조 전뇌 속에 누군가의 고스트가 복제된 것이 아닌가 하고 추정하고 있었다.

갑자기 6과 요원들이 들이닥쳤다. 그러더니 다짜고짜 조금 전에 실려 온 사이버보디를 회수해 가겠다고 주장한다. 외무대신의 사인까지 받아 왔다고 하니 할 말이 없다. 6과 요원이 확인해 보더니 감지된 고스트는 인형사의 것임을 알아냈다. '인형사(puppet master)'라는 별명은 이 녀석이 다른 사람의 전뇌를 워낙 마음대로 들락거리고 해킹과 원격 조종을 자유자재로 하는 바람에 '인형을 조종하는 존재'라는 뜻으로 붙여진 이름이었다.

6과의 나카무라 부장과 9과의 아라마키 부장이 수거된 사이버보디 앞에서 인형사에 대해서 대화를 나누고 있었다. 둘의 대화를 듣고 있던 사이버보디가 돌연 자가 동력을 발생시켜 깨어난다. 그리고는 인형사가 보디의 입을 통해 말을 하기 시작한다.

인형사: "나는 신체를 소유한 적이 없었던 순수 의식이다. 광대한 네트를 떠돌아다니다가 어느 순간 나의 자의식을 가지게 되었다."

그것의 주장에 따르면, 수백만 년 전 원시 수프(soup)에서 생명체가 출현했던 것처럼 광대한 네트워크상의 빅데이터 속에서 갑자기 의식이라는 것이 발생했다는 것이다.

인형사: "사이버보디에 들어간 건 6과의 공격성 방어벽을 극복할 수 없었기 때문이지만 여기에 이렇게 있는 건 나 자신의 자유의지다."

자유의지라고? 인간 영혼의 가장 독특한 특성 중 하나로 여겨지는 자유의지(free will)를 인형사는 자신도 가지고 있다고 주장한다. 인형사의 맹랑한 주장은 점점 도를 더해 간다.

인형사: "하나의 생명체로서 나는 정치적 망명을 희망한다."

나카무라: 뭐라고? 망명?

나카무라가 맞받아쳤다.

나카무라: "말도 안 돼! 너는 단순한 자기 보존 프로그램에 지나지 않아!"

그러자 인형사는 나카무라를 향해 신랄하게 반박한다.

인형사: "그렇게 말하는 너희 인간들의 DNA도 역시 자기 보존을 위한 프로그램에 지나지 않는다."

그러니까 인간이란 결국 DNA 안에 저장된 정보에 불과하다는 말이다. 반박할 말이 딸린다.

나카무라: "궤변이다! 무슨 소리를 하더라도 네가 생명체인 증거는 뭐 하나도 없다."

인형사: "증명하기 어려운 건 당신들도 마찬가지 아닌가?"

인간들: "…."

20세기 최고의 AI 묵시록

인간과 로봇 사이의 관계를 다루는 영화는 꽤 많다. 그러나 영화, '공각기동대'(1995)가 제기하는 물음은 다른 영화들보다 훨씬 더 심오하고, 실제적이며, 직설적이다. 하여 이 영화는 단연 20세기 최고의 AI 묵시록이 아닐까 싶다. 이 영화는 인간과 로봇 사이의 존재론적 충돌을 정면으로 다루고 있다. 인간과 사이보그 사이의 차별성은 존재하는가? 이 질문은 한 걸음 더 나아가 '인간은 개보다 나은가?' '인간을 개보다 낫게 만드는 것은 무엇인가?' 그리고 종국에는 '도대체 인간이란 무엇인가?'라는 가장 근본적인 철학적 질문으로까지 관객을 인도한다.

물론 이 영화의 배경인, 2029년까지는 아직 시간이 좀 남았고, 또 그때가 되어도 바토나 쿠사나기 같이 반은 인간이고, 반은 로봇인 사이보그가 거리를 활개치고 돌아다닐지는 의문이다. 그러나 우리는 이미 그 전조를 보고 있다. 충분히 인간 같은 휴머노이드가 이미 속속 등장하고 있으니 말이다. 우리는 지금의 기술만으로도 벌써 인간과 로봇 사이의 존재론적 충돌을 목도하고 있는 것이다. 가령 인간이 AI와 데이트하면서 식사할 수 있는 레스토랑이 문을 열었고, 피규어사의 헬릭스 휴머노이드가 빨래를 개고 집안 살림을 한다. 한걸음만 더 가면 영화는 현실이 될 판이다.

그때가 되면 미래학자 레이 커즈와일(Ray Kurzweil)의 말대로 인간의 생물학적 신체와 뇌의 한계를 극복할 수 있는 시점, 곧 특이점(singularity)이 도래할 지 모른다. 그때가 되면 레이의 말대로 인간의 지능이 뇌에서 해방되어 물질과 에너지 속에 전 방위적으로 스며들며, 종국에는 물질과 우주의 기제들이 장엄한 지능으로 바뀌어 빛나게 될 지 모르겠다. 그리하여 그 날이 오면 <화엄경>이 말하는 인식론적 유토피아, 곧 자아와 타자의 구분이 사라지고, 타인이나 동물, 기계와도 의식과 신체의 교환이 가능한 시대가 열리지 않을까. 영화는 그 시대를 마치 '성인 우주'의 시대처럼 묘사한다.

"내가 어렸을 때에는 말하는 것이 어린아이와 같고 깨닫는 것이 어린아이와 같고 생각하는 것이 어린아이와 같다가 장성한 사람이 되어서는 어린아이의 일을 버렸노라(고전 13:11)."

영화는 바울의 서신글을 다소 엉뚱하게 인용하고 있는데, 이는 마치 지금이 성인 우주 시대, 곧 우주 진화 제6기의 문턱에 서 있다고 말하려는 듯하다.

영화는 진화 계통도의 맨 끝에 있는 인간 너머로 토그사, 바토, 쿠사나기, 그리고 종국에는 인형사로의 진화가 지속되어, 포스트 휴먼(post human)들이 도래하고 있고 있다고 말하려는 것 같다. 충분히 상상 가능한 일이다. 그 진화의 과정 중 언젠가 자율적 지능이 갑작스럽게 출현하여 인간의 지위를 넘보며, 자신의 생명권, 자유권, 그리고 망명권을 주장하는 AI가 출현하게 될 지 모를 일이다. 그러니 국회에서는 아이작 아시모프(Isaac Asimov)의 '로봇 윤리 강령'을 헌법에 추가하는 개헌 논의를 지금부터 시작할 터..

인간 추락의 역사

그러나 중요한 것은 로봇이 인간처럼 될 수 있을 것이냐가 아니다. 진짜 중요한 것은 진즉부터 인간이 로봇처럼 되어 버렸다는 데 있다. 로봇의 존재론적 승격보다 인간의 존재론적 추락이 훨씬 더 심각한 문제라는 사실다. 진실은 이것이다. 인간의 추락이 없었다면 인간과 로봇과의 존재론적 충돌은 결코 일어나지 않는다는 것! 영화 <공각기동대>는 조만간 일어날 인간과 기계 간의 존재론적 충돌을 경고하고 있다.

그런데 인간과 기계의 존재론적 충돌은 오직 인간과 기계가 동일 층위에 놓일 때에만 일어날 수 있다. 하지만 도대체 어떻게 인간이 자신이 만든 기계와 동일 층위에 놓일 수 있었을까? 본래 인간과 기계는 전혀 다른 층위에 놓여 있었다. 하지만 점차 기계는 승격되었고, 인간은 추락해서 중간에서 둘이 만나게 된 것이다.

먼저 기계가 승격되었다는 말은 무슨 뜻인가? 기계가 점점 인간을 닮게 되었다는 말이다. 중국 유니트리사의 춤추는 로봇, 피규어사의 헬릭스 시리즈, 테슬라의 옵티머스, 현대의 아틀라스.. 이러한 로봇들은 너무도 사람같아서 보는 이들을 깜짝깜짝 놀라게 한다. 앞으로 이러한 과정은 더 가속될 것이다. 이렇게 기계는 인간을 모방해 왔으며, 앞으로는 인간과 기계를 구분하기 어려울 정도로 발전하게 될 것이다. 이것이 기계가 승격되어 왔다는 말이다.

반대로 인간은 점점 추락해 왔다. 그리하여 기계처럼 되었다. 이 과정은 아마도 데카르트부터 시작된 듯 싶다. 17세기 데카르트(R. Descartes)는 인간을 '신체(shell)'와 '정신(ghost)'을 가진 존재라고 했는데, 공각기동대는 데카르트의 발명품이다. 그는 인간이 정신을 가지고 있다는 점만 뺀다면 인간은 기계나 다름없다고 보았다. 그런데 18세기, 라메트리(La Mettrie)는 <인간기계론>에서 인간은 정신이 있다고 해도 인간과 기계는 다르지 않다고 주장했다. 데카르트가 '인간다움'의 증거로 주장했던 인간의 '정신'마저 라메트리는 기계적 과정으로 해체해 버린 것이다. 19세기 유물론자 포이어바하는 인간을 '자신이 먹는 모든 것'이라는 내용의 '유물론 선언'을 한 바 있다. 이제 인간은 단백질 합성체이며, 정밀한 바이오 기계일 뿐이다.

이 과정은 20세기에 이르러서도 지속되고 있다. 다카니시 아쯔오는 말하기를, "인간은 600여 개의 근육과 150억 개의 뇌세포로 이루어진 궁극의 로봇"이라고 했다. 이보다 앞서 사이버네틱스의 창시자 위너(N. Wiener)는 인간, 동물, 기계가 본질에서 자극과 반응이라는 공통의 언어를 공유하고 있다고 주장했다. 그 때문에 다나 해러웨이(D. Haraway)는 인간과 기계를 구분하는 이분법은 철폐되어아 한다고 주장했는데, 이것이 '사이보그 선언'의 골자다. 기계가 인간을 모방하기 훨씬 전부터 놀랍게도 인간은 자신을 기계라고 주장해 오고 있었던 것이다. 기계는 승격되어 오고, 인간은 추락해 왔다. 그 결과 인간과 기계는 동일 층위에서 존재론적 충돌을 하게 된 것이다.

튜링 테스트

앨런 튜링

여기서 20세기 영국의 천재적인 수학자 앨런 튜링(Alan Turing)을 짚고 넘어가지 않을 수 없다. 그가 제안한 튜링 머신은 오늘날 우리가 컴퓨터라고 부르는 것의 기본 컨셉이 되었다. 그는 2차 대전 독일군의 암호를 해독하여 연합군의 승리에 큰 기여를 하기도 했다.

그는 1950년, '기계도 생각을 할 수 있는가?'라는 문제에 천착하여 많은 연구를 했는데, 그것이 바로 AI 연구의 출발점이 된다. '기계가 인간처럼 생각을 할 수 있을까?' 이 질문을 바꿔 말하면 '기계가 지능을 가질 수 있는가?'하는 것이다. 그런데 오랫동안 사람들은 이 질문을 '기계도 인간처럼 영혼을 가질 수 있는가?'로 이해해 왔다. 그런데 앨런 튜링은 이 프레임을 바꿔 버렸다. 기계가 지능을 가지는 데 굳이 영혼을 가질 필요가 없다는 것이다. 이것은 매우 중대한 전환이었다. 그는 본질주의적 입장을 폐기했다. 대신 그는 이 문제를 행동주의적, 혹은 현상학적 문제로 바꿔버렸다. 기계가 지능을 가질 수 있느냐의 문제에서 기계가 영혼을 가지느냐, 가지지 않느냐는 전혀 중요하지 않다. 중요한 것은 기계가 지능을 가진 것처럼 '보이느냐' 하는 것이라는 것이다. 그는 기계가 지능을 가질 수 있는지를 확인하기 위해서 '튜링 테스트(Turing Test)'를 제안했다. 그리고 튜링 테스트는 인간과 기계 간의 이러한 존재론적 충돌을 잘 보여주고 있다.

AI 생성 이미지

가운데 스크린이 쳐져 있다. 스크린 이편에서 인공지능 평가원이 스크린 뒷편의 사람과 기계와 대화를 한다. 만일 스크린 이편에 앉아 있는 평가원이 스크린 뒷편의 사람과 컴퓨터를 구분할 수 있다면 기계는 아직 지능을 가진 것이 아니다. 하지만 만일 컴퓨터가 고도로 발달해서 평가원이 더는 사람과 기계를 구분할 수 없게 되는 순간이 온다면 그때 기계는 지능을 가졌다고 할 수 있다는 것이다. 여기서 기계가 진짜 지능을 가졌느냐는 중요하지 않다. 지능을 가진 것처럼 보인다면 기계는 지능을 가진 것으로 보아도 무방하다는 것이다. 그런데 한 걸음 더 나아간다. 튜링 테스트를 통과하는 순간 기계는 실제로 지능을 가진 것이다! 이토록 중차대한 문제에 대해서 튜링은 '그렇게 보이면 그런 것이다'라고 답변한 것이다. 아, 이러한 인간학적 빈곤을 보았나! 그런데 오늘날 튜링의 후예들인 빅테크 리더들은 한결 같이 이러한 정신적 빈곤증에 사로잡혀 있다.

그동안 컴퓨터가 발달하면서 튜링 테스트를 통과한 몇 번의 사례들이 존재했다. 1960년대 AI 상담사 엘리사는 사람들로 하여금 실제 사람이 상담한 것처럼 속이는 데 성공했다. 물론 금방 기계라는 사실이 들통 나긴 했지만 몇 가지 패턴 매칭만으로도 기계가 사람처럼 상담이 가능하다는 사실을 보여주었다. 그뒤로도 튜링 테스트를 통과했다는 몇 가지 사례들이 있었지만 제대로 통과한 기계들은 나타나지 않았다. 그러나 오늘날 챗GPT나 제미나이, 그록, 클로드 등 거대 언어 모델 AI들 중에 상당수는 튜링 테스트를 통과했다고 말할 수 있을 것 같다. 튜링의 말대로라면 이제 기계는 사람처럼 지능을 가지고 생각할 수 있게 되었다.

출처: https://m.blog.naver.com/1strider/222975967771

이러한 튜링의 제안에 대한 상당한 반론이 존재해 왔다. 그 중 하나는 '존 설의 중국어 방' 논증이다. 한 영국인이 한자(漢子)가 가득한 방에 앉아 있다. 그 영국인은 한자를 전혀 모른다. 다만 밖에서 누군가가 중국어로 뭐라고 말하면(input) 특정 규칙에 따라서 특정 한자를 밖으로 꺼내보여주라는(output) 지시를 받았다. 그래서 그는 그 규칙대로 인풋(input)이 오면 한자를 아웃풋(output)해준다. 그런데 밖에 있는 사람은 자신이 묻는 말에 정확히 답하는 모습을 보고 중국어방에 앉아 있는 영국인이 중국어를 아주 잘 안다고 생각하게 될 것이다. 하지만 실제로 방 앉에 앉아 있는 사람은 중국어를 전혀 알지 못한다. 존 설의 중국어 방 사고 실험은 튜링 테스트에 대한 일종의 조롱으로 AI가 지능을 가진 것처럼 보일 지라도 실제로는 지능을 가지고 있다고 할 수 없다는 주장을 담고 있는 것이다.

그러나 앨런 튜링이 존 설의 비판을 들었다면 아마도 그는 이렇게 답했을 것이다. '인간은 인간의 방식대로 사고하고, 기계는 기계의 방식대로 사고하는 것이다. 왜 기계에게 인간처럼 사고해야 한다고 주장하는가?' 튜링은 기계가 실제로 지능으로 문제를 해결할 수 있다면 그것으로 충분히 기계는 생각하고 있다고 말할 것이다.

나는 튜링이 실제 지능과 지능을 가진 것처럼 보이는 것을 혼동(confusion)하고 있다고 생각한다. 이것의 본질은 인간과 기계의 혼동이다. 인간과 기계의 혼동은 인간과 기계가 동일 층위에 놓이게 된 결과라는 것이 내 생각이다. 인간과 기계는 전혀 다른 층위에 존재하는 것이 옳다. 인간은 창조자고 기계는 피조물이기 때문이다. 그런데 이제 기계와 인간은 동일 층위에 놓이게 되었다. 그리하여 기계와 인간은 존재론적으로 충돌하게 되었으며, 존재론적으로 혼동을 일으키게 된 것이다.

나는 (최소한 아직까지는 현재의 아키텍처상으로는) AI가 자유의지를 가질 수 없다고 믿는다. 그래서 망명을 요청하는 인형사는 나오지 않을 것으로 본다. 그리고 나는 앞으로도 그렇게 되리라고 믿는다. 그런데 진짜 문제는 'AI가 자유의지를 가지는 것'이 아니라 'AI가 마치 자유의지를 가진 것처럼 보이게 되리라'는 것이다. 그리고 그렇게 되더라도 인간은 AI가 실제 자유의지를 가진 것이 아니라 마치 자유의지를 가진 것처럼 보인다는 사실을 구분하지 못하게 되리라는 것이다. 혼동이 문제인 것은 바로 이 때문다.

에필로그:

영화는 묻는다.

'인간은 고도로 발달한 로봇에게도 인간의 존엄과 권위와 가치를 인정해야 하는가?'

'그렇게 된다면 인간의 존엄과 권위, 가치는 과연 무엇이라고 정의할 수 있을 것인가?'

'어쩌면 처음부터 그런 건 존재하지 않았던 것이 아닐까?'

이 질문이 의미하는 바는 오늘날의 지성인들에게 주어진 과제는 '신 존재 증명'이 아니라 '인간 존재 증명'이 되었다는 것이다.

만일 인간이 개보다 낫지 않다면, 그래서 인간 존엄의 기초를 정할 수 없다면, 천부의 인권 개념도, 헌법이 말하는 인간의 존엄과 가치라는 개념도 허구가 된다. 그에 따른 생명권, 자유권, 행복 추구권, 사회적 청구권도 다 무너지게 될 것이다. 이렇게 되면 문명과 문화도 지탱되기 어려워지고 말 것이다. 생각해 보라. 만일 설렁탕을 먹기 위해서 소를 잡는 것이 가능하듯, 사람 고기나 가죽을 얻기 위해서 사람을 죽이는 것이 가능한 사회가 어떻게 존속할 수 있겠는가? 그래서 인간성의 기초는 중요하다.

그런데 영화 <공각기동대>가 알려 주는 바는 이것이다. 인간 존엄의 기초가 결코 인간 내부의 특질에서 찾을 수 없다는 것이다. 왜냐하면 그것이 무엇이 되었든 인간 내부에 존재하는 특질은 기술에 의해 모방될 수 있을 것이기 때문이다. 그리하여 기계는 다음과 같이 묻기를 멈추지 않을 것이다.

기계: "너희와 나의 차이는 무엇인가?"

우리는 기계의 이 질문에 대해서 뭐라고 답할 수 있을지 생각해 내야 할 것이다. 만일 가능한 유일한 답이 있다면 그 답은 다음과 같은 것이 되지 않을까?

"인간 존엄의 기초는 인간 외부로부터 주어져야 한다."