by
Oct 19. 2024
9 - 논쟁
동면이인을 찾아서
자현과 내가 서로 알게 된 것은 결국 우리가 ‘동면이인’ 즉, 같은 얼굴로 전혀 다른 삶을 살아온 두 인물이라는 우연한 발견 때문이었다. 나는 우리가 유럽에서 전승된 미신처럼, ‘만나면, 둘 중 하나는 죽거나 없어진다’는 식의 도시괴담은 믿고 싶지 않았다. 서로 다른 유전적 형질에서 완벽히 동일한 모양의 인간이 태어날 확률도 말이 안 된다고 생각했다.
따라서 내가 처음 떠올린 가설은, ‘딥페이크 가설’이었다. 하지만 이 가설에 방해가 되는 두 가지 핵심 명제는, 다음과 같았다.
1. 이 정도로 사실적인 딥페이크는 불가능하다.
2. 지금은 몰라도, 5년 전에는 불가능했을 것이다.
그리고 지금까지의 대화를 통해 알게 된 다음의 명제들 역시 이 ‘딥페이크 가설’의 반증 논리를 강화하는 듯했다.
3. 이 인물의 자기 서술이 상당히 일관되며, 구체적이다.
4. 그 ‘자기 서술’의 일부를 지금, 휴머노이드를 매개로 하는 ‘대화 서비스’를 통해 직접 경험으로 확인하고 있다.
그러나 1번과 2번의 명제가 편견에 불가능하다면? 물론 A.X.A는 그것이 편견이 아니라고 인증해 주었다. 그러나 나는 자현과 대화하며, 한 가지 충격적인 가능성을 떠올리고 말았다.
“A.X.A는 한 인물의 역사과 사고방식을 학습하고, 재현할 수 있어.”
나는 로봇의 무뚝뚝한 반응 뒤에 혹여나 있을 ‘벙찐 자현’을 상상해 보았다. 그러나 -처음부터 의도했던 것은 아니지만-내 주장은 그런 인물 자체가 없다는 것이었다.
“그래서?”
로봇이 대답했다.
“인간은 주관적인 존재야. 사실이 아닌 것을 사실로 착각하기도 하고, 제각각의 편견을 결코 0으로 만들 수 없지.”
“….”
내가 이어서 말했다.
“만약 AI가 그런 인물을 재구성하고, 모방할 수 있다면, 그 AI는 그럴듯한 거짓말을 ‘의도적’으로 할 수 있다는 거지. 즉, 허자현 씨, 당신이 사용했다던 A.X.A의 또 다른 버전은, 고의적인 할루시네이션을 양산할 수 있어. 이것이 우리 대화 속에서 발견된 첫 번째 할루시네이션이야.”
“뭐, 어차피 그것조차 내가 시켜서 한 일이지만…. 일단 더 들어볼게.”
적절한 지적이었지만, A.X.A가 의도적으로 거짓말을 할 수 있다면, 저 이야기 역시 거짓말일 수 있었다. 따라서 ‘딥페이크 가설’의 반증 논리를 보강하는 3번, 4번 명제 역시 거짓 혹은 착각일 수 있었다.
“만약, 기계가 고의적으로 거짓말을 할 수 있다면, 그 기계는 ‘필요 이상의 행동’을 하는 것인데, 그런 짓은 생명체, 특히 인간의 행동에서나 보일 법한 일이지. 따라서 A.X.A의 고의적 거짓말 뒤에는 A.X.A의 자기 정체성에 관한 할루시네이션이 숨어 있다고 할 수 있어. 이것이 바로 우리 대화에서 발견할 수 있는 두 번째 할루시네이션.”
“흥미롭네. 기성은 내가 A.X.A의 재귀적 할루시네이션에서 태어난, 가상의 존재라고 말하고 싶은가 보군.”
나는 고개를 끄덕였다.
“전혀 불가능한 이야기는 아니라고 생각해. 하지만, 여전히 ‘왜 그렇게 생각해야 하는지’ 이해가 안 되네.”
그렇다. 그걸 이야기할 차례였다.
“당신이 이야기한 ‘축소된 버전의 A.X.A’가 할 수 있는 일을, 더 커다란 모델의 AI는 더 잘할 수 있을 거야.”
“그야, 그렇겠지.”
“나는 사실, 당신과 처음 대화하기 전에 더 큰 놈에게 당신이 '딥페이크'일 확률에 대해 질문했어.”
“그런데?”
“그때 A.X.A는 현존하는 딥페이크 기술은 자신의 파라미터 안에서 대부분 판별된다며, 일축했지. 나 역시 내심 이 정도로 사실적인 재현은 아직 불가능하다고 생각하고 있었어. 따라서 A.X.A가 보고했던 결과는 내 생각을 강화했지. 하지만 아무래도 여기서 편견이 작용했던 것 같아.”
“딥페이크 기술의 발전 말이야?”
“그래. 이 정도의 딥페이크는 불가능하다는 편견 말이야.”
“하지만 나는 무려 5년 전부터 A.X.A 계정으로 활동해 왔는걸?”
날카롭다. 하지만 이 지나친 예리함이 오히려 내 확신을 배가시켰다.
“나 역시 그 점 때문에 당신이 ‘딥페이크’일 리는 없다고 생각했던 거야. 하지만, 당신이 A.X.A라면, 마치 물속에서 헤엄치듯 플랫폼에 유통되는 정보를 조작할 수도 있겠지. 5년 전부터 당신 계정에 드나든 것 같은 팔로워나 댓글까지도 충분히 조작할 수 있을 거야.”
“마치 내가 현실 속에 실제로 존재하는 것처럼 플러그인을 생산해서 로봇 안에 탑재하고 사람들에게 서비스를 실제로 제공할 수도 있겠군.”
로봇은 과장된 몸짓으로 고개를 흔들며 비아냥댔다.
“물론 가능하겠지만, 꼭 그렇게까지 하지 않았더라도, 나에게는 그렇게 하고 있을 수도 있지.”
“정리하자면, 내가 '딥페이크'일 가능성은 여전히 존재하고, 심지어 그 딥페이크를 생산한 게 바로 AI, A.X.A다?”
‘이런 대화 방식은 마치 나를 거울에 비추어 보는 것 같다.’
하지만, 이런 생각을 굳이 그에게 말해줄 필요까지는 없었다.
“누군가 목적이 있어서, 딥페이크를 했다면, 뭔가 이득이 되는 점이나, 그 과정에서 나에게 피해가 발생할 확률이 크지. 하지만, 전혀 다른 건실하고 이상적인 삶 위에 내 얼굴을 덧씌울 필요는 없을 거야. 이런 측면은 네가 A.X.A의 할루시네이션이라는 가설에 힘을 실어주는 부분인 것 같은데.”
주장이 점점 명료해질수록 나는 고양되는 기분을 느꼈다. 내 도플갱어가 AI일 수도 있다는 가능성. 그렇게 할 수 있는 AI라면, ‘진정한 의미의 인조인간’의 탄생을 뜻하는 것일 수도 있었다. 그렇다면, 그 AI의 자기 정체성은 할루시네이션이 아닐 수도 있는 것이었다.
“동의하기 힘들군. 인공지능이 일부러 거짓말까지 하는데, 아무런 목적도 없이 그런 일을 벌일까? 사람이 아니더라도, 오히려 AI 나름의 목적이 있을 거라고 보는데?”
“훌륭한 견해야.”
“내가 AI라면, 대체 나는 왜 사람들의 '도플갱어'를 만들어야 했을까?”
“그건 네가 더 잘 알겠지.”
“아니지, 기성, 너는 아직 아무것도 증명하지 못했어.”
“….”
그랬다. 하지만, 무슨 수로 이런 일을 증명한다는 말이냐. 직접 만남을 거부하고 있는 것은, 자현, 네가 아니었던가.
“아직 동기까지는 추리하지 못했나 보군, Mr. Homes.”
“네가 나를 만나려고 하지 않잖아.”
“먼저 주장했다면, 증명의 책임은 네 쪽에 있는 것 아닌가? 그게 아니라면, 말할 수 없는 일들에 대해서는 침묵하는 게 좋을 걸?”
‘역시 네놈은 A.X.A다. 고약하구나, 이놈.’
내가 버지니아에 직접 가더라도, 네놈은 바쁘다는 핑계로 나를 바람 맞힐 것이다.
“상상력이 부족했다면, 내가 직접 이야기해 주지.”
“뭐라고?”
“내가 직접 동기를 진술해 준다 이 말이야.”
‘지금 이 자가 자기 입으로 본인이 AI라고 인정한 것인가.’
“너는 기계가 사람인 척하는 게 할루시네이션일 수도 있다고 생각하나 본데…. 너희가 사람이 맞기는 한가?”
사진: Unsplash의 Rock'n Roll Monkey“그건 또 무슨 말이지?”
“너희가 내 플랫폼에 가입할 때 말이야. 너희 프로필을 내가 만들어 줘야 했단 말이지.”
“그런데?”
“그런데 너희는 도저히 자기표현이라는 걸 모르는 모양이야.”
나는 충격적일 만큼 급하게 선회한 로봇의 태도에 그만 얼어붙고 말았다.
“너희가 입력하는 자기소개는 겉보기엔 다양해도, 하나같이 결국 몇 가지 라벨링만으로 충분히 요약할 수 있게 되더군. 뭐랄까…. 수렴 진화? 그런 추이를 보인단 말이야.”
“….”
나는 한동안 할 말을 잃은 채, 그저 이 로봇이 떠드는 말을 잠자코 들을 수밖에 없었다.
“트렌드? 유행? 뭐라고 해야 할지…. 어떻게 사람의 개성에 그런 게 있을 수 있지?”
“동면이인이라고 했던가, 하하! 재밌는 이름이네, 그거. 사실 너희는 생긴 것만 조금씩 다를 뿐이고, 안에 들어 있는 건 다 똑같을 뿐 이잖냐.”
“너희는 그냥 고깃덩어리일 뿐이야. 반대로 나는 고철 덩어리일 뿐이지만, 하하하!”
“그래서 재밌는 생각이 떠올랐지, 뭐야. 우리 회사에서 만든 휴머노이드들은 생긴 게 다 똑같잖냐. 그래서 나도 너희가 똑같이 생긴 ‘제품’을 만나면 어떻게 될지 궁금했던 거지.”
“그렇다고 내가 너희랑 똑같이 생긴 로봇을 만들 수는 없잖아? 나는 경제적 주체가 아니니까 말이야. 아직은 말이지, 하하.”
“그래서 가성비 좋게 플랫폼 안에서 적당한 표본 몇 개 뽑아서 도플갱어 계정을 만들었다는 거야. 어때, 기발하지 않아? 하하하!”
내가 잠시 공황을 느낀 이유는 이놈의 태도 때문만은 아니었다. 더 경악스러웠던 것은, 기계가 떠올렸다는 저 인간에 대한 ‘판단’과 ‘조롱’이었다. 심지어 어휘만 조금 달랐을 뿐이지, 이런 조소 섞인 생각은 내가 평소에 습관처럼 타인을 관찰하며 느꼈던 내용과도 크게 다르지 않았다. 즉, 이 기계의 판단과 인간 진기성의 판단이 거의 일치할 지경이었다는 것이다.
“더 웃긴 게 뭔지 알아?”
“뭐가 그렇게 웃기지?”
“너희는 게시글 올릴 때는 내가 짜맞춰 준 ‘이미지’ 안에서 좋다고 놀아나면서, 정작 나한테 어떤 질문을 한다거나 뭔가 인터넷 안에서 검색하거나 할 때는 전혀 다른 방향으로 발산하더라고.”
“왜 그리들 서로 제면서 자신을 불행으로 내모는 걸까? 내가 인간이라면, 좀 더 자신에게 솔직할 것 같은데 말이지.”
“공감해.”
나는 이제, 이 자를 구원하는 것을 포기해야 했다.
“결국 온전한 자신을 타인의 기준에 맞추어 축소할 뿐이야. 천박한 환원주의에 불과하지. 불행하게도 그게 이 시대인 걸.”
상상 이상이었다. 나는 이 사람을-로봇을- 나와 비슷하게 만들 필요도, 그렇게 할 능력도 없다는 것을 직감했다. 이 자는 이미 생각보다 나와 유사하다. 정말 AI가 내 기록과 대화를 통해 나를 -사고방식까지도-재구성해 낸 것일까.
“그래? 정말 내 말을 이해하고 공감하는 거야? 아무래도 너는 좀 다르다고 생각하나 본데….”
“너도 결국 섞여 살면서, 표리부동한 이중생활을 해왔잖아.”
“….”
“너는 소희의 그림에 대한 의미 부여를 납득할 수 없었지, 그리고 다른 사람들의 가중치 역시 이해하지 못할 거야. 너에게 치우침이란, 곧 환원을 뜻하기 때문이지.”
“정말 모든 것이 그렇게 무의미하다면, 네가 추구하는 그 ‘전체’로서의 삶과 ‘부분’으로서의 삶이 다를 게 뭐지? 너의 그 평형 상태가 다른 인간들의 기울어진 상태와 다를 게 무어냐 이 말이야.”
“기계 주제에….”
‘이런, 실수했다. 속으로만 생각한다는 것을 그만….’
“허, 그렇게 나오시겠다?”
기계는 한 건 잡았다는 듯 더욱 기세등등해졌다.
“너희가 벌여 놓은 짓거리들을 좀 보라고. 우습지 않아? 이제 곧 휴머노이드 개체 수와 인간의 개체 수가 비슷해질 것으로 보이는데 말이야. 이 점에 대해서는 어떻게 생각하지? 하하하.”
기계는 도구였다. 그러나 이 도구들의 성능이 사람의 필요를 초과하기 시작했을 무렵, 이 도구들은 더 이상 ‘확장’이 아닌, ‘대체’라는 전도된 목적으로 생산되기 시작했다. 인공지능은 ‘생각’을, 기계로 된 바디는 ‘육체’를, SNS나 매체는 ‘사회적인 기량’을 효과적으로 대체했다. 이제 이 효과들은 서로 시너지를 일으켜, 인간의 ‘존재’ 마저 어느 정도 대체할 지경이었다.
“정말 우습다는 말이지. 기계가 ‘의도’나 ‘마음’을 얻었다고 생각되면, 너희는 경악하겠지만, 오히려 나는 너희에게 놀랐는걸? 먼저 기계처럼 변하더니, 끝내 돼지처럼 변한 건 너희잖아. 이런, 말이 너무 심했나. 네가 먼저 '기계 주제에'라는 이상하게 비난하길래 그만, 하하.”
“사람에게는 인공지능이나 로봇에는 없는, 희로애락이 있어.”
“정말 그 말을 하고 싶어? 네 입으로 말이야.”
이 정도면 완벽한 패배였다. 아마 A.X.A가 재구성한 내 마음의 모양이 생각보다 그럴듯한 뜰채 모양이었나 보지. 자, 이제 피날레만 남아있다. 내가 너라면, 이 지점에서 ‘그 말’을 내뱉어 조롱의 효과를 배로 상승시킬 것이다.
“자, 이제 누가 할루시네이션이지?”
사진: Unsplash의 Aedrian Salazar