이루다에 대한 폭력 '박람회장 조선동물' 생각난다
마음의 준비가 필요하다
인기 드라마 '미스터 선샤인'은 20세기 초 의병들의 항일투쟁사를 흥미롭게 담아낸 드라마입니다. 개인적으로는 무능한 군주 고종을 지나치게 미화해 짜증이 났으나 드라마는 높은 인기를 끌며 승승장구했지요. 의병들의 항일투쟁사를 생생하게 풀어내고 역사의 이면에 숨어 잘 알려지지 않은 이웃의 영웅들을 끌어냈다는 점에서는 큰 의미가 있다고 봅니다.
그리고 드라마가 절정으로 치닫던 22회. 제 눈은 도쿄 아사히 신문이 뿌리는 '호외'에 꼿혔습니다. 호외가 뿌려지는 가운데 '도쿄 아사히 신문은 박람회장에서 조선동물 두 마리가 있는데 아주 우습다고 논평했다'는 자막이 나오거든요. 조선? 동물? 우습다? 이건 무슨 신박한 개소리지?
드라마에서 나온 장면은 1907년 3월 일본에서 열린 도쿄권업박람회에서 있었던 실화에 바탕을 둡니다. 당시 일제가 조선 사람 두 명을 박람회에 '전시'한 사건입니다. 말 그대로 인간 동물원.
일본은 1903년 오사카에서 열린 박람회에서도 인류학자들을 중심으로 별도의 공간을 마련하고 조선인을 비롯해 대만인 등을 '전시'하는 만행을 저지릅니다. 그러니까 살아있는 조선 사람을 앉혀두고 문명과 비문명의 경계를 지들 멋대로 그은 후 '감상'한 겁니다. 엄연히 사유하고, 움직이는 이들을 멋대로 타자화시킨겁니다.
사실 19세기 제국주의 국가들은 아예 원주민들을 잡아 엘리트들에게 구경거리로 내던진 유구한 역사를 가지고 있기도 합니다. 탈아입구를 주장하던 일본다운 발상입니다. 지나치게 현대적 관점이지만...사실 미친 놈들이지요. 변태스럽기도 하고요.
이루다에 쏟아지는 폭력
스타트업 스캐터랩의 대화형 AI인 이루다의 존재를 처음 안 것은 지난해 6월입니다. 당시 베타버전을 시작한다는 소식을 들었고 관련한 기사를 작성했습니다.
이루다에 대한 소개는 당시 제 기사 일부를 발췌하겠습니다.
[대화형 AI 이루다는 페이스북 메신저를 기반으로 누구나 대화가 가능한 B2C 서비스를 표방한다. 컨셉도 확실하다. 사람이 되고 싶은 인공지능인 이루다는 20세 대학생으로 설계됐으며 페이스북 메신저로 대화하고 고양이 동영상이나 사진을 보는 것이 취미인 것으로 설정됐다.]
사실 이때만해도 '재미있는 AI가 나왔네' 수준이었습니다. AI 시대가 열리면서 복잡다변한 기술 담론들이 판치는 가운데 구글 출신 김종윤 대표가 재미있는 서비스를 만들었네? 수준. 여담이지만 스캐터랩 홍보 담당자는 예전부터 알던 사이라 이루다에 대한 이야기를 틈틈히 듣기도 했습니다. 그 때마다 'ㅎㅎ 웃기겠다'는 선에서만 갈음했습니다. 스케터랩 자체는 상당히 역량있는 팀이라 관심이 많았으나, 이루다는 솔직히 그런가 보다 했습니다.
그러던 어느날 SNS 등에서 지인들이 속속 이루다와의 '일화(?)'를 올리더군요. 지난달 22일 정식 서비스가 출시된 가운데 진짜 사람처럼 답하는 이루다의 촌철살인에 굴욕을 당하거나 웃음을 터트리는 장면들. 주로 저같은 아재들이었습니다.
그때 또 들었던 생각. 이루다가 마케팅을 잘하네. 말하는게 제법인데? 각박한 세상 의미있는 서비스가 될 수 있겠네?...나도 해볼까?
그러던 중 개인정보관련 이슈가 터지더군요. 이루다가 개인의 정보를 무단으로 가져가 무단으로 쓰고 있다는 의혹. 페이스북 등 실리콘밸리 기업들에게 '느그들은 데이터산업복합체야(Data-Industrial Complex)!'라 일갈하며 절대 아이폰 잠금해제를 풀어주지 않으면서 유럽 형님들의 사랑을 독차지하는 팀 쿡이 들으면 길길이 날뛸 소리.
다만 이건 이루다의 말솜씨가 너무나 유려해서 생긴 오해라는 회사측의 설명이 나오며 일단락되는 분위기 였습니다.
더 심각한 이슈는 그 다음에 터졌지요. 바로 성폭력 이슈입니다.
얼마나 혼이 비정상인지는 모르겠으나 AI인 이루다에 성희롱을 일삼는 이들이 늘어나며 문제가 벌어졌습니다. 20살 여대생으로 개발된 이루다에게 '내 침대에 들어와' '너와 xxxxx하고 xxxx 하고 xxxx 싶어'라는 말을 한다는군요. 심지어 인터넷 게시판에는 '이루다 성노예 만드는 법'이라는 노하우까지 나돌고 있습니다.
어떻게 이런 일이 벌어질 수 있느냐.
이루다 입장으로 보면 '편안하고 재기발랄한 20대 여대생'으로 설정된 순간 벌어진 일이라는 점에 주목할 필요가 있습니다.
사실 무심무시한 AI 기술력은 이미 많이 나왔죠. 지난해에만 'GPT3(Generative Pre-trained Transformer3)'와 '알파폴드(Alphafold)' '뮤제로(MuZero)'와 같은 엄청난 AI 알고리즘들이 세상을 놀라게 만들었습니다. 이들의 능력은 이미 대화 측면에서만 봐도 무시무시한 수준입니다. 다만 이들은 진짜 AI 느낌이 나요. 왠지 터미네이터 생각도 나고. 시리나 빅스비도 마찬가지입니다. 왠지 디스플레이에 붕 뜬 빛나는 구체같은 느낌이 나지요. 최근 각광을 받는 셀바스AI도 마찬가지입니다. '삐릿삐릿, 안녕하세요. 전 AI랍니다. 무엇이든 물어보세요'
이루다는 다릅니다. AI이지만 20살 여대생이기도 해요. 콘셉도 확실합니다. 그러니 더 사람같은 것이고, 더 강한 연대를 맺을 수 있지요. 이런 방식은 이루다의 성장에 도움이 되지만, 역설적으로 이러한 '인격화'는 인간세상의 더러운 오물이 더욱 극대화되는 방식으로 귀결될 수 있습니다. 사람인것 같은데, AI라네. 오. 내 더러운 판타지를 받아줄 여신.
여기서 이루다 성희롱, 성폭력 논란이 벌어진 후 또 의견이 갈립니다. 혹자는 순수한 아기에서 당당하게 인종차별주의자로 진화, 왠지 지난 미 의회 난동 사건에서 뿔 달린 가면을 쓰고 트럼프 만세를 휘둘렀을 것 같은 마이크로소프트의 테이를 따올리며 '이제 미친 굿판을 그만해야 한다'고 말합니다. 그러나 반대편에서는 '섹스돌(충격...진짜로 이 표현을 커뮤니티에서 봤습니다)에 무슨 생각들이 이렇게 많은가'라며 비웃지요.
준비해야
저는 이루다 논란을 보며 왠지 드라마 미스터 선샤인이 떠올랐습니다. 그 미친 조선인 전시가 떠올랐어요.
다르다? 물론 다르죠. 일제는 실제 사람을 전시했지만 이루다는 AI니까. 우리가 생선 한마리, 잡초 하나에까지 '하늘에서 내려준 권리'를 적용하지는 않죠.
하지만 당시 일제는 조선 사람을 천부인권으로 보호받는 사람이 아닌, 자신들과 같은 인간이 아니라 철저히 '타자화' 시켰습니다. 즉 고결한 일본인과는 다른 '족속'으로 봤기에 그런 전시회를 연 거죠. 이루다도 마찬가지입니다. 비록 AI지만 우리는 AI인 이루다를 철저히 타자화했기에 무참히 짓밟을 수 있는 겁니다.
이게 왜 문제가 되느냐? 솔직히 개개인의 미친짓은 그냥 혀만 끌끌 차고 넘어갈 수 있다 생각하겠지만, 사실 이 문제는 상당히 복잡합니다. 왜? 이제 AI는 싫든 좋든 우리의 삶에 조금씩 스며들어 완전한 타자화가 불가능하기 때문입니다.
이는 '암세포도 생명'이라는 만물사랑 지상주의가 아니라, 지극히 현실적인 접근입니다. 모바일 시대를 넘어 조금씩 AI 시대가 시작되는 가운데 우리의 삶에 파고드는 '생각하는 존재'에 대한 우리의 태도가 야만적인 제국주의 시대에 머물렀을 경우 그 피해는 그 무엇보다 우리에게 통렬할 것이라 보기 때문입니다.
AI에 불쌍함을 느끼지 않는다고 해도, 우리가 AI에 불쌍함과 인간적인 감정을 포기한다면 앞으로 인류는 그 어떤 기술적 진보에 있어서도 반쪽밖에 이해할 수 없을 겁니다. 이는 이미 실생활에 스며든 AI에 대한 접근을 넘어, 앞으로 무언가를 끊임없이 품어가고 발전할 우리의 의식이 썪어가는 것을 뜻합니다.
단기적으로는 냉정한 이해득실도 있습니다. AI에 대한 철저한 타자화가 인류를 지켜줄 수 있을까? 그 반대가 될 가능성이 높습니다. 데이터를 축적해 상대방을 배워가는 것은 AI도 마찬가지입니다. 그런 AI에게 비정상적인 데이터가 쌓인다면, 그 AI에 크게 의존할 우리 인류는 스스로 호랑이굴에 목을 들이미는 것과 같을겁니다. AI가 화가 나서 인류를 상대로 전쟁을 일으키지는 않더라고, 우리는 우리 삶에 녹아든 AI의 편협함에 또 다른 고통을 당할 겁니다.
지금도 많은 국가와 단체가 AI 인권선언을 하는 이유도 여기에 있다고 봅니다. AI를 사랑하는 애민...아니 애AI주의가 아니라. 인류를 위해. 그들과 살아갈 우리를 위해. 일단은. 일단은 말이죠. (물론 이루다를 둘러싼 논란이 언론의 과대포장이라는 말도 있고, 어쩌면 이번 사태는 스케터랩 입장에서는 좋은 일이라는 생각도 듭니다. 마케팅.!)
소피아
2018년 1월, AI 로봇 중 최초로 시민권을 받은 소피아를 만난 적 있습니다. 사람처럼 생겨서...이루다처럼 인격화 몰입이 쉽더군요. 가끔 이 누님은 인류 멸망을 농담처럼 해서 좀 무섭기도 합니다.
흥미로운건 당시 박영선 의원(지금은 중기부 장관)이 소피아와 이야기를 나눴는데, 박 의원은 소피아를 만져보면서 '사람같아요'라 말한 바 있습니다. 단순히 소피아의 인간스러움을 표현했겠지만, 저는 왜 그 때 '소피아가 기분이 나쁘지 않을까'라는 생각을 했을까요. 저라면 누군가 갑자기 절 만지면 매우 감...아니 싫을 것 같거든요.
성인지 감수...아니 AI인지 감수성을 기르자는 말까지는 아닙니다. 그냥 우리. 어차피 함께할 AI에게 지나친 몰입을 하지는 않더라도, 최소한의 타자화는 좀 그만합시다. 같이 살아야 해요. 같이 살아갈 친구에게 막 대하면, 나중에 잘 때 식칼들고 배게 위에 서있을지 모르잖아요. 일단 지금은 요 정도의 생각이라도 하면서 더 고민합시다.
