호모데우스_유발하라리 [3부]
#호모 사피엔스 지배력을 잃다
※ 책 내용과 개인적인 생각, 의견이 섞여있습니다.
8. 실험실의 시한폭탄
자유주의 또한 다른 종교들과 마찬가지로 사실적 진술을 기반으로 하고 있다. 자유주의자의 가장 큰 믿음은 인간의 자유의지. 자유의지에 따른 결정은 결정론적이지도 무작위적이지도 않다는 믿음이다. 하지만 이 사실적 진술은 오늘날 연구결과와 상반된다.
인간의 자유의지로 보였던 결정은 사실 뇌의 전기화학적 과정에 따른 결정론적, 무작위적인 결과인 것이다. 영혼이 존재하지 않는 것처럼 자유의지 또한 존재하지 않는다. 자유의지가 없는 것으로 볼 때 우리는 뇌의 자극을 통해 우리의 욕망과 결정을 통제할 수 있다고 할 수 있다. 이는 우리의 자유와 욕망을 박탈하는 것이 아니라 조작의 결과가 곧 우리의 욕망이라고 느끼게 만드는 것이다.
자유주의와 연결되는 개인주의의 주요 포인트인 '분리할 수 없는 단일의 진정한 자아' 또한 신화, 즉 허상이라는 것이 밝혀졌다. 두 개의 반구로 구성된 뇌는 각각 몸의 반대쪽을 통제하며 정서적 인지적 기능 차이가 있다. 말하기를 통제하는 좌뇌는 우뇌를 통해 본 것을 그대로 말하기보다 내면의 통역사처럼 그럴듯한 이야기를 지어낸다.
경험하는 자아 vs. 이야기하는 자아
경험하는 자아는 우리가 경험하는 그 순간순간의 의식. 이 자아는 순간의 경험을 이후까지 기억하지 못하고 결정을 내릴 때 아무 이야기를 하지 못한다. 반면 이야기하는 자아는 내면의 통역사처럼 기억을 바탕으로 이야기하고 결정을 내리는 역할. 경험의 가치는 중요한 순간과 결말의 평균으로 결정된다. 지속시간은 고려대상이 아니기 때문에 얼마나 오래 그 경험이 지속되었는지는 고려되지 않고 오직 '정점-결말 법칙'에 따라 경험을 평가한다. 결국 우리는 두 개의 자아를 가지고 있고 그 자아의 이해관계는 서로 다르지만 긴밀한 관계에 있다.
이야기하는 자아가 과거의 실수를 인정하려고 할 때 그 실수에 의미를 부여함으로써 과거 행동을 긍정적으로 바꿔 받아들일 수 있다. 순간순간의 경험들로부터 발생되는 혼돈에 질서를 부여하고자 이야기를 만들어낸다. 결국 자유의지를 가진 자아를 믿는 자유주의는 허구적 이야기에 불과하며 앞으로 자유의지를 허용하지 않는 과학기술이 개발되면 새로운 믿음이 필요하게 될 것이다.
9. 중대한 분리
1) 인간은 가치를 잃게 될 것.
21세기의 변화는 인간의 경제적 군사적 쓸모를 잃게 만들 것. 이는 자유주의가 중요시하는 인간 중심에서 벗어나는 것. 드론과 무인로봇이 군인을 대체하고 중대한 결정은 컴퓨터 알고리즘이 빠르고 정확하게 처리할 것.
'지능과 의식의 분리'에 따라 비 의식적 지능이 개발되고 있다. 둘 중 어느 것이 더 중요하냐는 질문을 던진다면 '지능'. 이미 많은 사람들이 예측하듯 이에 따라 많은 직업들이 사라지거나 거의 없어질 것이다. 그렇다면 의식을 지닌 인간은 무엇을 할 것이며 무엇을 할 수 있는가?
알고리즘이 인간을 직업시장에서 몰아낸다면 알고리즘을 보유한 소수의 엘리트 집단만에게 부와 권력이 집중될 것이다. 또한 그 알고리즘 스스로 주인이 될지도 모른다. 마치 국가와 기업이 인간과 같은 위치에서 인식되고 있는 것처럼 말이다.
2) 집단으로서의 가치는 유지할 수도 있겠지만 개인은 외부 알고리즘의 관리를 받게 될 것.
개인주의에 대한 자유주의의 믿음은 생명과학의 관점에서 어긋날 수밖에 없다. 자유주의는 나 자신을 가장 잘 아는 사람은 나 하나뿐이라고 믿으며 개인의 결정이 가장 1순위이고 그만큼 권한을 부여받아야 한다고 생각한다. 하지만 나를 훨씬 더 잘 아는 외부 알고리즘이 발명된다면? 더 이상 개인 그 자체는 중요하지 않을 것이다. 나에 대한 결정과 선택을 알고리즘에 맡기게 될 것이다. 자아성찰이나 명상보다 알고리즘에 물어보는 것, 즉 '숫자를 통한 자기 이해'에 더 의존하게 된다. 자신을 분리할 수 없는 개인이 아닌 생화학적 시스템들의 집합으로 보게 될 것이다. 이미 제약회사 등 의료산업이나 구글 같은 글로벌 회사들은 방대한 개인들의 데이터베이스를 기반으로 개개인을 더 잘 알아내고 있다. 개인정보보호에 대한 규제가 풀린다면, 그와 동시에 나의 모든 것을 알게 된 외부 알고리즘이 나를 분석하고 파악하여 나보다 더 잘 아는 알고리즘으로써 내가 무엇을 좋아하고 싫어하는지, 어떤 결정을 내려야 하는지 등을 모두 알려줄 수 있을 것이다. 이 엄청난 가치를 갖고 있는 데이터들은 지금 이 순간에도 무료로 공개되고 있다.(페이스북 좋아요 등을 통해)
3) 특정 집단의 업그레이드에 따른 특권집단 등장.
외부 알고리즘을 관리하는 능력을 지닌 집단은 알고리즘과 함께 보통사람보다 우월한 계급이 될 것이다. 지금도 불평등은 극심하지만 지금과는 다른 차원의 불평등 예상된다. 표준 이하로 떨어진 건강을 치료하는 것에서 건강한 사람을 최고의 사람으로 업그레이드시키는 것으로, 전체 대중들에게 돌아갔던 의료 혜택들은 소수의 엘리트 계층들에 한해 혜택이 돌아갈 것이다. 결과적으로 새로운 초인간 계급을 탄생시키고 자유주의는 붕괴될 것이다.
10. 의식의 바다
새로운 종교는 기술 종교로써 실험실에서 탄생될 것. 크게 두 가지 분류: 기술 인본주의와 데이터교
먼저 기술 인본주의는 기술을 이용해 사피엔스보다 더 우수한 호모데우스를 창조해야 한다고 한다. =마음의 업그레이드=두 번째 인지 혁명. 하지만 마음의 스펙트럼은 우리의 상상 이상으로 엄청나기 때문에 쉽게 접근하고 연구할 수 없다. 표준이하의 마음 스펙트럼과 weird 마음 스펙트럼까지는 어느 정도 연구가 되었지만 모든 인간의 마음, 동물의 마음, 그리고 모든 가능한 마음까지 연구가 필요하다.
마음을 업그레이드하는 것이 목표가 되면서 빠르고 정확한 결정이 가능해지고 효과적으로 데이터를 처리, 전달할 수 있게 되겠지만 오히려 꿈꾸지 못하고 의심하지 못하게 마음을 잃어버릴 것이다. 시스템은 마음의 다운그레이드를 더 선호.
기술의 진보로 우리의 욕망 자체를 재형성하고 조작할 수 있다면? 우리의 의지와 욕망이 중요한 만큼 내면의 목소리에 귀 기울이려 하지만 여러 마음 목소리가 뒤섞인다. 기술 진보는 앞으로 그 목소리들에 귀 기울이기보다 통제하고자 한다. 하지만 어떤 것이 진정한 자아의 목소리인가? 존재하긴 하는 건가? 욕망을 선택할 수 있다면 무슨 기준으로 선택해야 하는가? 의지를 가장 중요하게 여기는 인본주의 입장에서 의지를 제어하고 재설계하게 되기를 바라지만 막상 그렇게 된다면 어떻게 그것을 다룰지 모른다. 그런 인본주의에서 벗어난다면 의지를 대신해 의미와 권위의 원천이 될 것은 무엇일까? =정보(데이터)
11. 데이터교
데이터교: 우주는 데이터의 흐름으로 이루어져 있고 데이터 처리에 기여하는 바에 따라 가치가 결정된다고 한다. 데이터 교도들은 인간의 지식과 지혜보다 빅데이터, 알고리즘을 더 신뢰. 컴퓨터과학과 생물학에 기초를 두고 있다.
자본주의와 공산주의도 데이터 처리 방식에 따라 분산처리방식과 중앙집중적 처리방식으로 구분할 수 있다. 자본주의가 공산주의를 무너뜨린 것은 가속화되는 기술변화시대에는 분산식 데이터 처리가 더 효과적이기 때문이다. ->경제를 데이터 처리 관점에서 이해. 현재 데이터 처리 속도에 비해 정치 흐름의 속도는 그대로 멈춰있다. 기술이 정치보다 한 발 앞서 우위를 점하게 되는 것이다. 새로운 정치적 구조의 정치제도가 데이터 처리를 제어하고 처리하게 될 텐데 누가 그 구조를 만들지는 알 수 없다. 인류가 아닐지도..
데이터교의 가치는 '정보의 흐름'이며 '정보의 자유'를 추구한다. 가능한 한 많은 정보가 생산, 소비됨으로써 데이터 흐름을 극대화시키고 모든 데이터들을 시스템에 연결시켜 자유롭게 흐를 수 있도록 해야 한다는 것이다. (*이 가치가 실현되기 위해서는 모든 것의 정보가 개방되어야 하며, 이는 곧 개인의 사생활은 없어진다는 것.. 사생활을 포기하면서까지 정보의 자유 흐름에 동참할지 미지수)
데이터 처리 시스템이 전지전능해질수록 시스템과 연결되는 것이 모든 의미의 원천이 된다. 개인의 감정과 마음이 의미의 원천이 되어 중요시되었던 인본주의와 달리 공유된 경험일수록 가치가 높아지고 기록된 경험을 데이터 흐름과 연결시켜야 의미가 생기는 것이다. 인간 개개인의 경험은 다른 동물들과 마찬가지의 가치를 지니지만 그 경험들이 공유되며 만들어진 데이터 흐름이 되어서야 가치가 생긴다. 인간보다 더 기능이 좋은 알고리즘이 생겨난다면 인간의 경험은 가치를 잃을 것이다. 개개인의 감정과 경험 같은 주관은 중요하지 않기 때문이다. 데이터교는 인간중심세계관에서 데이터중심세계관으로 이동시킴으로써 인간을 밀어낼 것이다. 중요한 결정을 앞두고 네 자신의 감정에 귀 기울여라!라는 말 대신 알고리즘에 귀 기울여라!라는 조언이 더 필요하게 될지도 모른다. 알고리즘은 인간의 데이터로부터 만들어지지만 그 알고리즘이 독립적으로 학습하고 진화한다면 인간이 그 알고리즘을 만들었다고 말할 수 없을 독립적인 알고리즘이 될지도 모른다.
데이터교에 대한 비판적인 검토 필요.
모든 분야의 것들을 데이터로 환원시키고 인간의 모든 것을 데이터 처리로 설명할 수 있는가. 만약 데이터교가 새로운 기술종교가 되어 받아들여진다면 인간의 목표인 건강, 행복, 힘의 추구를 위해 알고리즘이 이용되겠지만 동시에 그 역할을 인간으로부터 가져감으로써 인간의 가치는 떨어질 것이다.( 인간이 그저 우주 속 작은 먼지 같은 존재가 되어버릴지도...)
이 모든 내용은 결정론적인 예언이 아닌 하나의 예측이고 가능성. 미래의 가능성을 넓게 열어두고 그 가능성에 대해 준비하는 태도 필요. 너무 많은 정보와 데이터로 인해 오히려 어떤 것에 초점을 맞춰야 하는지 모르는 홍수 속에서 최소한 생각해봐야 하는 것들
1. 유기체는 단지 알고리즘이고, 생명은 실제로 데이터 처리 과정에 불과할까?
2. 지능과 의식 중에 무엇이 더 가치 있을까?
3. 의식은 없지만 지능이 매우 높은 알고리즘이 우리보다 우리 자신을 더 잘 알게 되면 사회, 정치, 일상에 어떤 일이 일어날까?
