(기억을) 정말 삭제하시겠습니까?
확장된 인지, AI 지우개 그리고 딥페이크로 상상하는 세상
과학 하나 상상 둘. 과한 상상
Where does the mind stop and the rest of the world begin?
마음은 어디서 끝나고 나머지 세상은 어디서 시작되는가? [1]
철학 하나. 확장된 인지 가설 (Extended Cognition Hypothesis)
철학 전공이 아닌데 철학 이야기를 하기 조금 망설여지지만, 내가 이해하고 있는 선에서 간단히 소개해보고자 한다. '확장된 인지 가설'에서 말하는 것은 우리의 인지 기능 (무언가를 생각하고, 기억하고, 결정하는 등의 기능)이 우리 뇌 안에만 머물러 있지 않다는 것이다. 대신 인지는 우리의 몸, 그리고 심지어 우리가 속해 있는 주위 환경들로 까지 '확장'될 수 있다고 주장한다.
무슨 말인지 알듯 말 듯 아리송하다. 그럴 땐 이 가설의 창시자들 (Andy Clark, David Chalmers)이 자주 드는 예들을 본다. 그러면 이들이 무엇을 주장하고자 하는지 조금이나마 더 쉽게 이해할 수 있다.
자주 드는 예제 중에 하나가 핸드폰이다. 요즘 누가 다른 사람들의 전화번호를 외우고 다닐까? 번호를 외운다는 우리의 '기억' 기능은 이제 핸드폰의 주소록이 담당하고 있다. '기억'이 우리의 뇌를 벗어난 것이다.
핸드폰과 같은 최신 기술뿐 아니라, 우리의 몸으로도 확장이 가능하다. 예를 들어 숫자를 세면서 손가락을 이용하는 것은 '셈'이라는 기능이 몸으로 확장된 예이다.
또 다른 재밌는 예제는 기계나 몸뿐 아니라 '다른 사람'으로 우리의 인지기능이 확장되는 것이다. 오래된 커플은 종종 서로 한 사람이 말하면 다른 사람이 그 말을 끝맺을 수 있다. 바람직한 예제인지 모르겠지만, 우리 커플을 예로 들자면 나의 '물건 찾기'란 기능은 경희에게 확장되어 있다. 내가 항상 뭔가를 찾아 두리번 거리면, 경희는 내가 뭘 찾는지 귀신같이 파악하고 어딨는지 찾아낸다.
그런 것 같기도 하고, 아닌 것 같기도 하고. 쉽게 이해하기 어려운 것이 사실이다. 심지어 확장된 인지가 아니라 확장된 마음 (Extended Mind)를 생각하면 더 혼란스럽기도 하다. 내 마음이 사물로 확장된다고? 그러면 그 사물이 나란 존재의 일부인가? 내 의식은? 질문에 질문이 꼬리를 문다. 그래서 그런지 확장된 인지/마음 이론을 반박하는 주장들도 많이 찾아볼 수 있다.
이 분야의 매력은 (아직까지는) 하나의 답이 없다는 게 아닐까? 그 말도 맞고 저 말도 맞다. 진실이 무엇이든, 확장된 인지/마음 가설은 인공지능, 로봇 연구자들에게 이것저것 생각할 거리를 많이 던져준다. 예를 들어, 로봇의 지능은 로봇의 머리 (CPU)에만 머물지 않고 네트워크를 통해서 저기 멀리 있는 슈퍼컴퓨터와 연결되도록 확장할 수 도 있다. 마치 네이버의 Brainless 로봇처럼.
[1] 확장된 마음 이론을 주장한 논문의 본문 첫 문장이다.
Clark, A., & Chalmers, D. (1998). The extended mind. analysis, 58(1), 7-19.
확장된 인지/마음과 관련된 여러 영상들을 보는데 그중에 재밌는 이야기가 있었다. 알츠하이머로 인해서 혼자서는 도저히 일상생활이 불가능할 것으로 보이는 사람이 있는데, 집에서 혼자서 아무 문제없이 살고 있었다는 것이다.
치료사가 그 사람의 집을 방문하니, 집안 곳곳에, 그 장소에서 어떤 일을 해야 할지, 다음으로 뭘 해야 할지, 버스를 타고 어떻게 다녀오는지 등이 적힌 포스트잇이 집안 곳곳에 붙여져 있었다고 한다. 어떤 일을 어떤 순서로 할지 계획하는 일, 무엇을 해야 할지 등의 인지기능들이 몸을 벗어나 포스트잇에 '확장'되어 있는 것이다.
만약 이 사람을 집에서 데려와 보호소에 머물게 한다면, 이 사람은 아무 일도 할 수 없게 될 것이다. 그의 인지기능이 확장된 집이라는 공간을 벗어나는 순간, 그 사람의 인지 기능에 저하가 오는 것이다.
이 이야기를 바탕으로 아래 '상상 둘'에서 생각해보았다. 만약 누군가 이 사람의 집에 들어가서 포스트잇을 없앴다면, 아니면 포스트잇을 뒤죽박죽 섞어버린다면? 가택침입으로 처벌받아야 하는가? 아니면 그 사람의 인지기능 손상으로 처벌받아야 하는가?
기술 하나. AI 지우개와 Deep Fake
이번 삼성 갤럭시 S21에서 소개된 AI지우개는 사진에서 특정 영역을 감쪽같이 지우는 기능이라고 한다. 직접 써볼 순 없었지만, 영어로 Object Eraser (물체 지우개)로 소개되는 것을 보니, 사람보다는 사진 속의 특정 물건을 더 잘 지울 수 있는 기능으로 보인다. 이미 사진에서 얼굴 인식도 잘 되는 마당에, 얼굴 찾아서 지우는 기능이 곧 등장할 수 있지 않을까 생각해 본다.
DeepFake는 반대로 가상의 인물 만들어 내는 기술이다. 예를 들어 이 사이트 (https://thispersondoesnotexist.com)에서는 실제 존재하지 않는 사람의 얼굴을 보여준다 (접속할 때마다 사진이 바뀐다). 너무 자연스러워서 기계가 만들어낸 사진이라고 믿기 어렵다. DeepFake의 근간을 이루는 기술은 GAN이라는 것인데, 이를 이용하여 요즘은 가상의 인물 사진뿐 아니라 가상의 인물 동영상도 만들어 낼 수 있다.
사진에서 사람을 지우는 기술. 사람을 만들어 내는 기술.
만약 이들이 확장된 인지 가설과 만난다면?
*참고. 사내 SF소설 응모를 보고 생각나서 적은 글이니.. 특정 기업의 제품 언급은 양해를 바란다.
상상 하나. 흑역사 삭제 기능
"정말 삭제하시겠습니까?"
갤러리 앱이 한번 더 물어본다. 잠시 머뭇거렸지만 벌써 내 엄지손가락은 "예"를 누르고 있다.
그녀와의 추억을 모두 지우려고 한다. 이번 갤럭시 S23에서 업그레이드된 AI지우개는 내 스마트폰에 남겨진 모든 사진과 동영상에서 그녀의 얼굴, 몸, 심지어 목소리까지 인식하여 깔끔하게 그녀의 흔적을 지운다.
지난 여름 남해 바다 앞에서 둘이 다정하게 찍은 사진도 나 혼자 우두커니 서있는 사진으로 바뀐다. '덮어쓰기' 옵션을 체크하니, 몇몇 사진에선 그녀의 얼굴이 다른 사람 얼굴로 바뀌어있다. 사진뿐 아니라 여행 가서 찍은 동영상에서도 그녀의 모습은 보이질 않는다. 심지어 다 같이 모인 파티에서 배경으로 들리던 그녀의 목소리조차 깨끗하게 사라졌다.
그렇게 그녀는 내 인생에서 등장한 적이 한 번도 없다는 듯이, 그녀의 흔적은 내 모든 기억 (혹은 스마트폰의 기억)에서 사라졌다. 연인이 헤어지고 나서, 일일이 사진, 동영상을 지워주는 수고가 덜어졌지만, 한편으로는 누군가의 존재가 이렇게 쉽게 지워질 수 있다는 게 찜찜하기도 하다.
'에러 발생'
삭제가 진행되고 있는 프로그레스 바가 멈춰있다. 에러 메시지를 확인하니, 지우려고 하는 그녀의 사진이 사실은 그녀와 찍은 게 아니라 그녀의 얼굴로 합성된 사진이란다.
'응? 이거 걔랑 찍은 게 맞는데?' 도대체 정확히 기억나지 않는다.
'그녀가 아니라고? 내가 누구랑 이사진을 찍은 거지?' 이제 뭐가 내 진짜 기억이었는지 혼란스럽다.
AI가 지우고 또 만들어내는 사진과 동영상. 그렇게 내 기억도 지우고 다시 또 만들어진다.
상상 둘. 공소장
공소사실:
피의자 이OO는 피해자 김OO의 스마트폰 갤럭시 S23에 무단으로 접근한 후, AI 지우개와 NEON 아바타 기능을 이용하여, 피해자의 스마트폰에 저장되어 있던 사진과 동영상에서 피해자의 아들 박OO의 모습을 모두 본인의 모습으로 바꾸었다.
이후, 피의자는 피해자에게 접근해 자기가 아들인 것처럼 행세하였다. 피해자는 중증 치매를 진단받고 기억 장애가 있는 상태로, 기억의 대부분을 스마트폰에 저장된 사진과 동영상에 의존하고 있다. 현재 피해자는 아들 박OO의 얼굴을 기억하지 못할 뿐 아니라, 피의자 이OO가 아들이라고 착각을 하며 큰 혼란에 빠져있다.
따라서 피의자가 저지른 행동은 단순히 피해자의 스마트폰을 해킹한 것이 아니라, 피해자의 기억을 무단으로 삭제하고 조작한 것으로, 피해자의 인지 능력에 상당한 피해를 초래하였다. 따라서 피해자는 사이버 범죄에 따른 형량이 아니라, 타인의 신체 및 인지적 기능 상해에 따른 형량이 구형되어야 한다고 본다.
확장된 마음에 관심이 있다면 아래 영상들을 추천한다 (영어)
