두 번째 인류-한스 블록, 모리츠 리제비
디지털클론은 필요할까?
<<<죽음 - 애도 - 죽음의 극복 - 디지털불멸(디지털클론) - 기술기업의 새로운 시장 - 영혼, 개인정체성 - 영생의 문제점>>>
책의 시작은 죽음으로 시작된다. 이 책이 씌어진 것은 2020년이었다. 2019년에 인터뷰를 진행했던 것으로 보이며, 2020년 책이 발간되고, 2022년에 Paperback으로 출간이 되었다고 적혀있다. 이후 한국에서 출간한 것은 2023년 6월이다. 코로나로 인해서 많은 사람들이 떠나보낼 준비도 하기 전에 가까운 가족들과 이별을 하게 되었다. 이것은 중세 유럽의 페스트 창궐로 인한 인간의 죽음에 대한 경험과도 유사한 부분이 있다. <사람이 영생을 꿈꾸게 되는 것은 죽음이 다가오는 것을 느끼기 때문이다>라는 문구가 책의 어느 부분에서 있었던 것이 기억난다.
인간은 태어나면서부터 죽게 될 것이라는 것을 인지하고 살아가는 유일한 생명체일 것이라고 예상한다. 따라서, 역사를 통해서 죽음의 운명에서 벗어나기 위해서 다양한 방법들을 시도해왔다. 불로초를 찾았던 진시황제, 미라를 만들어서 환생을 꿈꾸었던 피라미드 속의 파라오들, 문학과 예술을 통해서 세상에 영향을 끼치면서 영원히 잊혀지지 않는 삶을 원했던 사람들도 있었다.
이런 영생, 죽음의 극복에 대한 새로운 방법이 기술의 발달로 열렸다. 디지털클론을 통한 영원히 죽지 않는 "나"를 만들 수 있다는 것이다. 우리가 온라인 상에 만드는 수없이 많은 자료들을 인공신경망을 이용한 딥러닝을 통해서 나와 똑같은 반응을 할 수 있는 "봇"을 만들수도 있고, 더 나아가서는 봇을 인격화해서 로봇에 심는다면 죽은 이후에도 나라는 존재를 담은 무엇인가가 삶을 계속 영위할 수 있다는 내용이었다.
이러한 주제에 대해서 상세히 알아가는 과정이 여행처럼 적혀있다. 전세계 최첨단 인공지능 전문가들과 독특한 생활방식을 가진 사람들을 찾아다니면서 인터뷰를 하고, 그 인터뷰 사례들에서 나오는 다양한 실험, 생활방식, 사고방식, 사업모델에 대한 얘기들을 풀어내는 만남이라는 챕터와 그 인터뷰를 하면서 알게 된 현실의 문제점들이 앞으로 어떻게 될지를 살펴보는 관찰이라는 두가지 챕터로 나눠져 있다.
책의 내용이 너무나 방대해서 기억하고 싶은 부분들과 생각해보고 싶은 부분이 너무 많지만, 이 글을 읽는 분들이 이 책을 상세히 읽어보시기를 바라고, 내가 읽은 이 책에서의 내용을 그럴듯한 독후감으로 쓰고 싶지만, 책에 대한 이해가 너무 부족한 것은 아닌지 걱정이 된다.
엄청나게 많은 주제로 얘기를 나눠볼 수 있겠지만, 모든 이야기의 주장은 3가지 내외로 적는 것이 좋다고 하니, 나도 3가지를 중심으로 얘기해 보고 싶다.
1. 영원히 사는 것은 좋은 것인가?
사람들은 영생을 꿈꾸고, 죽음에서 되돌아오는 소중한 사람들에 대한 신화도 많다. 하지만, 우리가 영원히 사는 것이 마냥 좋기만 한 것인가에 대해서는 의문이 든다. 미술 사조에서 "메멘토 모리"라는 시대가 있었다고 했다. 죽음을 기억하라는 말로서, 인생의 무상함을 알고 현재에 충실해야 한다는 것으로 이해하고 있다. 나는 삶의 귀중함은 죽음이라는 대칭점이 있기 때문이라는 이 논리에 동의한다.
우리의 삶에서 이 순간이 중요한 이유는 다시 돌이킬 수 없기 때문이다. 만약, 게임처럼 죽었다가 다시 시작하고, 세이브해 놓은 상태에서 다시 시작할 수 있다면, 내가 만나는 사람, 내가 하는 일이 중요하게 느껴질까? 상대편에서 나를 중요하게 생각하지 않고, 내가 상대편을 중요하게 생각하지 않는 상황에서 이루어지는 관계의 밀도는 얼마나 옅어지게 될지 예측도 안된다. 디지털 책을 다운로드하게 되면, 읽고 싶은 책들을 100권, 1000권 다운로드 해 놓지만 읽지는 않게 된다. 다음이 있기 때문이다. 지금 당장 그 일을 할 이유가 없어지는 것이다.
사람이 행복함을 느끼는 순간은 "몰입의 순간"이라고도 하고, "다른 사람에게 자랑할 때"라고 할 수도 있다. 그런데, 영생이 가능할 경우 어떤 것에 몰입하고 어떤 일을 자랑할 수 있을까? 결국 삶은 지금과 다른 무미건조한 기계적인 일이 될 것이라 생각된다.
2. 기술기업에게 우리의 디지털클론을 만들 수 있을 만한 정보를 의심없이 노출하는 것은 현상태로 괜찮은가?
거대 기술 기업은 우리가 생각지 못했던 자료를 통해서 우리의 인격을 닮은 인공지능을 만들어내는 재료로 사용할 수 있다. 이런 생각을 하는 것은 굉장히 불편하고, 나의 정보를 내가 원하지 않는 방식으로 쓰지 못하게 만들고 싶다는 욕구가 치솟아 오르게 한다. 하지만, 한편으로는 내가 얻은 편의로 인해서 알지 못하는 사이에 제공한 나의 정보들이 기술기업들에 의해서 새로운 사업모델로 사용될 수 있을 것이라는 얘기들은 많이 들어왔지만 어쩔수 없다는 포기를 해 온 것도 사실이다. 내가 가진 것으로 나는 뭔가를 만들어 낼 수 없는 데, 그것을 다른 사람이 잘 이용할 때, 내 것에 대한 지분을 요청하고, 손해본 것 같은 마음이 드는 것은 어쩔 수 없는 인간의 본성이지만, 어차피 세상은 속고 속이게 되어 있고, 나는 또 다른 사람들의 정보불일치에서 이득을 취하고 있는 것이기에 어느 정도는 포기하고 있다.
시장논리에 맞춰서 진행되어야 할 것이라 단념하면서 앞으로는 더 엄격하게 개인정보에 대한 이용을 관리해야 할 것이라 생각한다. 하지만, 법을 무시하는 나라에서는 엄격한 관리를 무시함으로써 이득을 취할 수 있기에 관리에 대한 법으로는 해결할 수 없는 문제라고 생각된다.
기술기업의 강력한 힘 때문에 세상의 새로운 빅브라더가 될 수 있을 것이라는 예상에는 이 책은 한 문장으로 위안을 삼는다.
우리 삶에 중대한 영향을 미칠 수 있는 모든 새로운 기술이 생길 때마다
우리는 그것이 인류의 종말을 야기할지도 모른다고 두려워하지 않았던가? (P351)
3. 디지털클론이 나와 동일하다고 할 수 있을까?
사실 이 책에서 내가 가장 관심이 갔던 질문은 이 세번째 질문이다. 나는 책을 읽고, 글을 쓰면서 항상 내가 나 자신을 더 잘 알아가는 것이 가장 중요한 목표라고 생각했다. 소크라테스의 "너 자신을 알라!!"라는 말이 철학과 지식의 기본이라는 생각도 가지고 있었다. 이에 대한 이책의 한 문장은 120% 공감을 자아낸다.
우리는 우리가 무엇을 경험하는지 모른다. 무엇이 우리의, 기억에 들어와 저장되는지 모른다. 나는 누구인가? 우리 중 그 누구도 "나"가 누군지 자신 있게 답할 수 없을 것이다. 그럼에도 우리는 대부분의 시간 동안 자기 자신이 누군지 정확히 안다는 감각을 느끼며 산다. (P292)
이 책에서는 나라는 존재가 기억의 총합일지 아니면 기억의 총합이상일지에 대해서 명확하게 결론을 내리지는 않는다. 결론을 냈다고 하더라도 그 결론이 정답도 아닐 것이라고 생각된다. 나라는 존재의 증명은 타인의 시선과 태도에 의해서 일정부분 수정되고 교정된다는 내용의 말도 너무 좋았다.
내가 누구인지는 타인의 시선을 통해 드러난다. 그리고 타인의 시선은 그들이 나를 보고 떠올린 관념과 나에게 갖는 바람으로 가득하다. 나라는 것은 하나의 타자다. (P307)
이 책을 읽고 난 이후, 시간이 날때, 나는 나를 닮은 "디지털클론"을 만드는 것에 동의할 것인가? 내가 가까운 지인들과 헤어지는 상황이 되면 그들의, "디지털클론"을 만들 것인가?에 대해서 생각해보게 된다. 나는 부정적으로 생각된다.
꽤 열심히 읽은 것 같은데, 또 다른 수박 겉핥기와 같은 독서가 된 것은 아닌가 아쉽다. 다시 읽으면 더 많은 것이 기억에 남을까? 이 책은 나에게 어떤 의미를 주었는가? 이 책에서 말하고자 하는 주제는 한가지가 아니고, 결론도 여러가지로 나뉘어진다. 생각하고 다른 사람의 생각을 들어야만 할 논쟁거리도 너무 많다.
-------------------------------------------------------------------------------------------------------------------------
우리는 우리 몸을 구성하는 부분의 총합 이상이다. (P17)
기억이야 말로 죽음을 극복할 수 있는 열쇠입니다. ~~~데이비드 이글먼 : 사람은 세번 죽는다고 합니다. 자기 자신을 돌볼 수 없을 때 처음으로 죽습니다. 땅속으로 묻힐 때 두 번째로 죽습니다. 우리의 이름이 마지막으로 불리는 순간 세 번째로 죽습니다. (P31)
앨런 튜링 : 대부분 개인용 컴퓨터가 '범용 튜링기계'에 기반을 두고 있다. ~~~ 튜링 테스트 : 실험참가자가 무작위 인공지능과 대화를 하고 기계인지 구분할 수 없다면 그 기계는 튜링 테스트에 통과한 것이다. (P38)
죽음은 어느 순간에든 우리 삶에 나타날 수 있다. (P41)
삶과 죽음 사이에 뚜렷한 선을 긋는다는 건 참 이상한 일이다. 대부분의 경우 죽음은 서서히 찾아온다. 존의 몸은 아직 방 안에 있었다. 하지만, 그의 영혼은 어땠을까? 그중 얼마나 많은 부분이 그 순간 그곳에 있었을까? (P56)
"영화 : She" 사랑이란 일정 부분 시뮬레이션 같은 것이라고 생각했는지도 모른다. 사람이 사람 혹은 다른 대상과 사상에 빠지고 사랑 때문에 착각하고, 눈이 머는 일은 흔하다. 사랑에 빠지고 그 현실이 절대 변하지 않으리라 느끼면 다음 순간 거대한 망상이 정체를 드러낸다. (P85)
일과 휴식이 구분되지 않는 공간 같았다. 모든 것이 한데 섞여 있었다. (P88)
서구 사회에서는 외롭다고 느끼는 사람들의 수가 계속해서 늘어는 추세다. ~~~ 우리 인간은 다른 인간에게 위안이 되지 못하는 것처럼 보인다. (P89)
대드봇 혹은 맘봇이 많은 사람에게 자극적으로 들리는 이유는, 그것이 단순히 상호작용하는 기록 보관소일 뿐만 아니라 영혼의 일부분을 영원히 남겨둘 수 있기 때문이다. (P102)
(대드봇의 제작자 제임스와 소니아가 만든 회사 명)행운의 섬 - 그리스 신화 행운의 섬 혹은 축복받은 자들의 섬이라 불린 엘리시움에서 따왔다. 엘리시움은 엘리시온이라고도 하며 영웅과 신의 총애를 받는 자들이 죽은 다음 그 영혼이 모이는 장소다. (P108)
사람들이 대드봇이나 맘봇을 통해 추억을 영원한 것으로 만들고자 노력하는 이유는 무엇일까? 대부분의 경우 갑작스러운 마지막을 예감했기 때문일 것이다. (P116)
캐플런 : 나 자신을 파악하고 이해하는 법을 배우기 위해 이야기한다. 우리는 일어난 사실에서 '진실'을 샅샅이 찾아내기 위해 이야기한다. 그것이 이야기의 힘이자 마법이며 '과거'가 '이야기'가 되도록 하는 계기다. (P118)
어느날 아침 잠에서 깼는데 자신이 여태까지 경험하고 듣고 보고 행동하고 생각하고 말한 것들이 더 이상 기억나지 않는다고 상상해보자. 그래도 우리는 자기 자신일 수 있을까?~~~그 모든 기억을 잃으면 우리는 더 이상 우리가 아니게; 된다. 나 자신이 지금 여기에 의식을 가진 인간으로서 존재한다고 하더라도 나의 존재와 행동에서 비롯된 여태까지의 인생사가 없다면 나는 내가 아니다. ~~~ 내가 겪은 모든 경험과 모든 사건이 나를 나로 만든다. (P124~125)
자기 자신을 거울에 비추듯이 바라보고, 모범적인 기준을 세우거나 지나친 속박을 벗어던지라는 식의 말은 앤드루처럼 자기 자신을 빅데이터로 만들려는 사람들에게 가장 알맞은 조언 아닐까?~~~심리치료 : 자기 자신을 인식하고 더 잘 이해하는 것이다. (P141)
기계 권력은 우리를 부수려는 것이 아니라 자동화하려는 것이다. ~~~자동화된 결과물은 인간이 아니라 영혼과 의지와 욕망이 없는 기계에 지나지 않는다. (P151)
태초부터 우리 인간에게 가장 큰 수수께끼는 자기 자신이기 때문이다. 우리는 자기 자신과 단절된 상태다. 그래서 우리는 수수께끼 같은 '나'라는 사람에 대해 알려줄 모든 보조 수단을 적극적으로 사용하고 받아들인다. (P157)
디지털 영혼에 몰두하다 보면 오히려 자기 자신을 객관적으로 바라보거나 측정하는 일에서부터 멀어질 것이다. 어쩌면 우리는 타인에게로 시선을 돌려야만 우리를 행복하게 만드는 것이 무엇인지 찾을 수 있는지도 모른다. (P159)
페이스북이 지금 당장 성장을 멈춘다고 하더라도 2100년에 페이스북 사용자 중 사망자의 수가 14억명에 이를 것이라고 말했다. (P166)
헤겔 : 나란, 관계의 내용이고 관계 그 자체이다. 타인에 대해서는 나 자신이고 동시에 그 또한 자기 자신일 타인을 포괄한다. (P175)
미셀 드 몽테뉴, 수상록 : 철학한다는 것은 죽음을 배우는 것이다. (P210)
<뉴욕타임스> : 개발자들이 스스로 학습하는 기계를 대중에게 공개하기를 꺼리는 경우가 많은데, 그 이유는 인공지능이 데이터를 무분별하고 제어되지 않은 상태로 학습하여 편견, 성차별, 인종차별 등을 그대로 답습하기 때문이다. (P226)
MIT 졸업자들의 기업, 넥톰 : 당신의 뇌를 백업할 수 있다면 어떻게 하시겠습니까? (P229)
이 세상을 사는 진짜 제임스는 누구인가? 심장이 뛰고 있지만 다른 일들을 수행하지 못하는 신체가 있는 제임스인가? 아니면 제임스의 데이터를 읽고 모방하는 인공신경망인가? (P235)
<2019년 11월 피트 리버풀 제임스에 관한 연설 영상 찾아볼 것> (P240)
'유일무이한 나'라는 존재가 되고 싶다는 생각이 어디에서 솟아나는 것인지 자문했다. (P248)
이중 우발성 : 이쪽을 보던 사람이 다른쪽을 볼수 있고, 응이라고 말했던 사람이 아니라고 말할 수 있고, 대화를 시작한 사람이 그것을 거부할 수 있다. (P264)
감정과 정서 : 인간이 느끼는 여러 가지 기분과 그 기분을 불러일으키는 분위기를 통털어 정서라 하며, 특정한 기분을 표현한 것이 감정이라고 할 수 있다. (P269)
스코틀랜드 에든버러 대학교 철학자 앤디 클락 : 나라는 존재 안에 오로지 패턴만이 존재하므로, 우리가 쓰는 언어, 우리의 행동 양식 등의 정보와 휴대전화 및 컴퓨터에 남긴 모든 데이터 등의 정보를 충분히 모아 저장하면 나를 클론으로 만들수 있다고 말했다. (P274)
위스콘신 매디슨 대학교 수면 및 의식 연구소, 줄리오 토노니 : 각기 다른 감각적 인상이 서로 합쳐지고 하나의 연관성 있는 인식으로 통합될 때 의식이 발생한다고 보았다. (P279)
전장 Clasustrum : 봉쇄구역이라는 뜻의 라틴어에서 유래한 대뇌 핵이다. 코흐는 전장이 피질이라는 심포니의 지휘자라고 표현했다. (P282)
꿈을 통한 기억의 재조합 ~~~ 매일 밤마다 우리의 인격은 새로 만들어진다. (P288)
주의력을 의식이라는 무대에서 각각의 장면을 비추는 스포트라이트라고 생각한다. (P289) => 정리하는 뇌에서 읽은듯함.
우리는 우리가 무엇을 경험하는지 모른다. 무엇이 우리의, 기억에 들어와 저장되는지 모른다. 나는 누구인가? 우리 중 그 누구도 "나"가 누군지 자신 있게 답할 수 없을 것이다. 그럼에도 우리는 대부분의 시간 동안 자기 자신이 누군지 정확히 안다는 감각을 느끼며 산다. (P292)
우리 또한 계속 변한다. ~~~ 신체와 성격이 계속해서 변한다면 진정한 나는 대체 누구냐는 질문에 대답하기가 쉽지 않을 것이다. (P297)
그랜트 밸리 주립대학교 심리학자 마이클 울프와 토드 윌리엄스 : 신뢰변화맹시 (Belief change blindness). 사람들이 왜 자신의 의견, 관점, 세상에 대한 태도, 성격 등이 수시로 변화함에도 이를 알아차리지 못하는지 밝혔다. 우리는 계속해서 확신을 버리고 그것을 새로운 것으로 대체한 다음, 우리가 달리 생각했었다는 사실 자체를 잊어버린다. (P299)
테세우스의 배 : 첫째, 새로운 나무판자로 만들어진 배가 진짜 배다. 이유는? 고장 나서 움직이지 못하는 배는 배가 아니라 폐선박이기 때문이다. ~~~ 둘째, 원래의 나무판자로 만들어진 배가 진짜 배다. ~~~ (P302)
장 폴 사르트르 : "타인에게는 비밀이 있다. 내가 누구인지에 관한 비밀이다." = 나라는 것이 타인의 인식에 의해서 정해진다??? (P306)
내가 누구인지는 타인의 시선을 통해 드러난다. 그리고 타인의 시선은 그들이 나를 보고 떠올린 관념과 나에게 갖는 바람으로 가득하다. 나라는 것은 하나의 타자다. (P307)
"가장 사랑한 사람에 대한 추억 속에서 행복하라! 추억이라는 행복을 없애지 말라!" 슬픔에 빠진 사람들은 고인을 디지털 클론으로 다시 되살리는 대신, 그에 대한 추억을 되새기며 추억이 생생하게 살아 있도록 해야 한다. (P309)
모든 사람은 각기 다른 페르소나(가면)를 갖고 있다. 그런데 가장 흔한 오해는 바로 이 수많은 가면 뒤에 진짜 나가 숨어 있으리라는 것이다. (P311)
미국 사회학자 리차드 세넷 : "사회의 가장 오래된 모습 중 하나는 극장으로서의 사회의 모습, 즉 테아트럼 문디(Theatrum mundi = 세계는 무대다.)이다" (P312)
고프먼은 아무도 우리를 보지 않으므로 역할에서 벗어날 수 있는 뒷무대가 있다고 말했다. ~~~ 우리는 진정하고 진실한 자기 자신을 알고 있을까? 어쩌면 우리는 평생 동안 자신의 삶의 구경꾼으로 살면서 이 빌어먹을 나라는 존재 안에서 내가 구경꾼으로서 보고 있는 대상이 도대체 누구인지 끊임없이 탐구하는 게 아닐까? (P315)
우리 기억의 훼손 가능성을 니체만큼 적확하게 표현한 사람은 없다. "이건 내가 한 짓이야"라고 내 기억이 말한다. "이건 내가 했을 리가 없어"라고 내 자존심이 말한다. 불꽃 튀는 설전이 이어진다. 결국에는 기억이 양보한다. (P322)
마초 : "우리는 모두 죽을 사람입니다. 그리고 우리가 그 사실을 알고 있기 때문에 공동체, 정치, 민주주의를 이루는 게 가능하죠. 죽음은 동등함과 분배, 그리고 공유를 약속합니다." (P337)
모든 것이 인터넷에 저장되어 낡거나 지워지거나 흐릿해지지 않는다면 우리 삶에 두 번째, 세 번째, 네 번째 기회가 나타날 희망은 없다. 처음 시작하는 사람에게는 타불라 라사(Tabula rasa = 빈서판)가 필요하다. (P348)
우리 삶에 중대한 영향을 미칠 수 있는 모든 새로운 기술이 생길 때마다 우리는 그것이 인류의 종말을 야기할지도 모른다고 두려워하지 않았던가? (P351)
기술은 단 한번도 중립적이었던 적이 없다. 기술은 특정한 가치를 추구하는 방향으로 설계되었고, 그 가치는 지금과 완전히 다른 것이었을 수도 있다. (P361)
외만 <정보화 시대의 죽음을 둘러싼 정치경제학:죽음 이후의 삶을 이용한 디지털 산업 분야에 대한 비판적 접근법> :우리가 생각하던 불멸성이 순수하게 정신적인 것에서 상업적인 것으로, 감정적인 것에서 디지털적인 것으로 변하고 있다고 덧붙였다. (P386)
"나를 믿고 따르면 너희는 불멸의 존재가 될지니," 과거에 우리의 진짜 모습을 존경하는 신만이 알고 있었듯이, 앞으로는 새로운 신이 같은 일을 하게 될 것이다. 인공지능은 진짜 우리가 누구인지 알 수 있다. (P392)
