호모 데우스 by 유발 하라리 (3)

3부: 401p~ 끝

401p

우선 그 소년에게 커서 무엇이 되고 싶은지 물었는데, 소년은 데생화가가 되고 싶다고 대답했다. 이 대답은 논리적 추론과 말하기에 중요한 역할을 하는 좌뇌가 제시한 대답이었다. 그런데 또 하나의 말하기 중추가 소년의 우뇌에 있었고, 그 부위는 음성언어를 제어하지는 못하지만 알파벳 철자가 적힌 조각들을 이용해 단어를 말할 수 있었다. 연구자들은 소년의 우뇌가 뭐라고 말하는지 알고 싶었다. 그래서 책상 위에 글자 만들기 게임 조각들을 펼쳐놓고, 종이 한 장에 이렇게 썼다. '커서 무엇을 하고 싶니?' 그들은 소년의 왼쪽 시야 끝에 그 종이를 놓았다. 왼쪽 시야에서 오는 데이터는 우뇌가 처리한다. 우뇌는 음성언어를 사용할 수 없으므로 소년은 아무 말도 하지 않았다. 하지만 소년의 왼손이 책상 위에서 빠르게 움직이더니 여기저기서 철자 조각들을 모아 이렇게 답했다. '자동차 경주,' 섬뜩한 결과이다. 

405p

경험하는 자아는 아무것도 기억하지 못한다. 경험하는 자아는 어떤 이야기도 하지 않고, 중요한 결정을 내릴 때 참조대상이 되지도 않는다. 기억을 끄집어내고 이야기를 하고 중요한 결정을 내리는 것은 모두 우리 안에 있는 매우 다른 실체인 '이야기하는 자아'의 독단이다. 

이야기하는 자아는 과거에 대한 이야기를 만들어내고 미래에 대한 계획을 세우느라 쉴 새 없이 바쁘다. 모든 기자, 시인, 정치인이 그렇듯, 이야기하는 자아도 여러 가지 지름길을 선택한다. 이야기하는 자아는 모든 것을 다 이야기하지는 않고, 대개 중요한 순간과 최종결과만을 이용해 이야기를 엮는다. 

415p

성직자들은 수천 년 전에 이 원리를 발견했다. 수많은 종교의식과 계명의 근저에 이런 원리가 갈려 있다. 신이나 국가 같은 상상의 실체를 믿게 하려면, 사람들이 가치 있는 뭔가를 희생하게 해야 한다. 희생이 고통스러울수록 그 희생을 바치는 대상의 존재를 더 확실히 믿게 된다. 값비싼 황소를 제우스에게 바치는 가난한 농부는 제우스가 실존한다고 확신할 것이다. 그게 아니라면 그의 어리석은 행동을 어떻게 설명하겠는가? 그 농부는 과거에 황소들을 바친 일이 헛되지 않았다고 믿기 위해 거듭해서 황소를 바칠 것이다. 

417p

이제 우리는 이야기하는 자아 역시 국가, 신, 돈과 마찬가지로 상상 속 이야기임을 알 수 있다. 우리들 각자는 저마다 이야기를 지어내는 정교한 장치를 갖고 있는데, 그 장치는 경험의 대부분을 버리고, 고르고 고른 몇 가지 표본만 간직한다. 그리고 그것을 우리가 본 영화, 우리가 읽은 소설, 우리가 들은 연설, 우리가 음미한 몽상의 파편들과 뒤섞는다. 그런 다음 그 뒤범벅 속에서 내가 누구이고 어디서 왔고 어디로 가는지에 대한 일관되어 보이는 이야기를 짜낸다. 이 이야기는 무엇을 사랑하고 누구를 증오하고 무엇을 할지 알려준다. 심지어 이 이야기는 줄거리에 필요하다면 내 목숨까지 희생시킨다. 

426p

둘 중 어느 것이 진정 중요한가? 지능인가, 아니면 의식인가? 이 둘이 항상 짝지어 다니는 한 둘의 상대적 가치를 논하는 것은 철학자들의 소일거리에 불과했다. 하지만 21세기에 이 문제는 절박한 정치적·경제적 쟁점이 되었다. 그리고 군대와 기업은 이것이 "지능은 반드시 있어야 하지만 의식은 선택사항이다"라고 간단히 대답할 수 있는 문제임을 알고 나면 정신이 번쩍 든다. 

429p

아무리 경험이 풍부한 변호사와 탐정들도 얼굴 표정과 어조만으로 거짓말을 쉽게 잡아내지 못한다. 하지만 거짓말에는 우리가 진실을 말할 때 사용하는 뇌 부위와는 다른 부위가 관여한다. 아직은 아니지만, 기능자기공명 영상 스캐너가 오류가 거의 없는 거짓말 탐지기로서 작동할 수 있을 날이 머지않았다. 그때가 되면 수백만 명의 변호사, 판사, 경찰, 탐정 들은 어디로 갈 것인가? 그들은 학교로 돌아가 새로운 직업교육을 받아야 할 것이다.

435p

21세기 경제의 가장 중요한 질문은 아마도 '그 모든 잉여 인간은 무엇을 해야 하는가'일 것이다. 거의 모든 것을 더 잘할 수 있는 높은 지능의 비의식적 알고리즘이 생긴다면, 의식을 가진 인간은 무엇을 할 것인가? 

443p

(인간만의) 마지막 성역은 예술이라는 말을 흔히들 한다. 컴퓨터가 의사, 운전기사, 교사, 심지어 지주까지 대체하는 세상이 오면 모든 사람들이 예술가가 된다는 것이다. 하지만 예술 창조가 알고리즘으로부터 안전할 이유는 딱히 없다. 왜 컴퓨터가 인간보다 작곡을 못할 거라고 확신하는가? 생명과학에 따르면, 예술은 마법에 걸린 영이나 형이상학적 영혼의 산물이 아니라, 수학전 패턴을 인식하는 유기적 알고리즘의 산물이다. 그렇다면 비유기적인 알고리즘이 예술을 생산하지 못할 이유가 조금도 없다.  

448p

유명한 시나리오에 따르면,어느 회사가 최초의 인공 슈퍼 지능을 설계한 다음 그것으로 파이값을 계산하는 것 같은 순수한 테스트를 실시한다. 그러면 무슨 일이 일어나고 있는지 알아차리기도 전에, 인공지능이 지구를 점령하고 인간 종족을 제거하고 은하 끝까지 정복전쟁을 펼치고 우주 전체를 거대한 슈퍼 컴퓨터로 바꾸어 무한한 시간 동안 파이값을 훨씬 더 정확하게 계산한다. 결국 그것이 인공지능의 창조자가 그에게 준 신성한 임무니까. 

451p

하지만 21세기의 기술로는 '인류를 해킹해' 나보다 나를 훨씬 더 잘 아는 외부 알고리즘을 만들 수 있을 것이다. 그런 일이 일어나면 개인주의에 대한 믿음은 붕괴할 것이고, 권한은 개인들에서 그물망처럼 얽힌 알고리즘들로 옮겨갈 것이다. 

나를 완벽하게 알고 어떤 실수도 하지 않는 외부 알고리즘까지 갈 필요도 없다. 그저 나보다 나를 더 잘 알고 실수를 덜 하는 외부 알고리즘이면 충분하다. 그 정도면 알고리즘에게 나에 관한 점점 더 많은 결정과 인생의 선택들을 맡기기에 충분할 것이다. 

453p

2000년 이스라엘 가수 슐로미 샤반이 '아리크'라는 노래로 이스라엘 음원차트를 석권했다. 그 노래는 여자친구의 전 남친 아리크에 집착하는 한 남자에 대한 것이다. 그는 자신과 아리크 중에 누가 더 잠자리를 잘하는지 따져묻는다. 그러자 여자친구는 답변을 피하며 저마다 다르다고 말한다. 남자는 만족하지 못하고 다시 묻는다. "숫자로 말해봐." 바로 이런 남자들을 위해, 베드포스트라는 회사가 성관계를 하는 동안 착용할 수 있는 생체완장을 판매한다. 이 완장은 심박수, 땀의 양, 시간, 오르가슴 지속시간, 소비한 칼로리 같은 데이터를 수집한다. 그러면 그 데이터가 컴퓨터에 전송되고, 컴퓨터는 그 데이터를 분석해 당신의 성적 능력을 수치로 평가한다. 가짜 오르가슴이나 "어땠어?"라는 질문은 더 이상 필요 없다. 

462p

"잘 들어봐, 구글. 존과 폴이 둘 다 나에게 작업을 걸고 있어. 둘 다 좋은데 좋은 면이 달라. 그래서 마음을 정하기가 너무 힘들어. 네가 아는 사실들을 모두 고려해 나에게 조언 좀 해줄래?"

그러면 구글은 이렇게 대답할 것이다. "나는 네가 태어난 날부터 너를 알고 있었어. 네 이메일을 모두 읽었고, 네 통화를 모두 기록했고, 네가 좋아하는 영화들, 네 유전자 정보, 네 심장 기록도 모두 갖고 있어. 네가 데이트한 정확한 날짜도 보관하고 있으니, 존이나 폴과 만날 때마다 네 심장박동, 혈압, 혈당수치를 초 단위로 기록한 그래프를 원한다면 보여줄 수 있어. 필요하다면 네가 그들과 가진 모든 성관계의 정확한 순위도 제공할 수 있어. 그리고 당연히 나는 너를 아는 것만큼 그들도 잘 알아. 이 모든 정보, 내 뛰어난 알고리즘, 수많은 관계에 대한 수십 년에 걸친 통계자료를 토대로, 나는 너에게 존을 선택하라고 권해. 장기적으로 그와 함께할 때 더 만족스러울 확률이 87퍼센트야." 

"나는 너를 잘 아는데, 너는 이 답변이 마음에 들지 않을 거야. 존보다 폴이 훨씬 더 잘생겼지. 너는 외모를 중시하니까, 내가 '폴'이 라고 말해주기를 내심 바랐을 거야. 물론 외모는 중요하지. 하지만 네가 생각하는 것만큼은 아니야. 수만 년 전 아프리카 사바나에서 진화한 네 생화학적 알고리즘은 배우자감을 전반적으로 평가할 때 외모에 두는 비중이 35퍼센트야. 하지만 최신 연구와 통계를 바탕으로 하는 내 알고리즘은 외모가 사랑하는 관계에 장기적으로 미치는 영향은 14퍼센트에 불과하다고 말해. 그러니 폴의 외모를 고려한다 해도 네가 존과 함께하는 게 더 낫다고 생각해." 

465p

놀랍게도 알고리즘이 직장동료보다 더 잘 예측하기 위해서는 열 개의 '좋아요'만으로 충분했다. 친구보다 잘 예측하기 위해서는 70개의 '좋아요', 가족보다 더 잘 예측하기 위해서는 150개의 '좋아요', 배우자보다 잘 예측하기 위해서는 300개의 '좋아요'가 필요했다. 다시 말해, 당신의 페이스북에서 클릭한 '좋아요'가 300개라면, 페이스북 알고리즘이 당신의 남편이나 아내보다 당신의 견해와 욕망을 더 잘 예측할 수 있다는 뜻이다!

일부 영역에서는 페이스북 알고리즘이 그 사람 본인보다 더 잘 예측했다. 

그 연구는 결론에서 이렇게 예측한다. "사람들은 활동, 진로, 연애 상대 같은 인생의 중요한 결정을 내릴 때 자신의 심리적 판단을 포기하고 컴퓨터에 의존할 것이다. 이런 데이터에 의존한 결정이 사람들의 삶을 개선할 가능성이 있다."

476p

10억 명은 하루에 1달러 이하를 벌고, 또 다른 15억 명은 하루 1~2달러를 버는 세상이다. 이들은 평생에 걸쳐 아무리 열심히 노력해도 3000달러라는 유전자 검사 비용을 마련할 수 없다. (중략)

중세 귀족들은 자신들의 정맥에 우월한 푸른 피가 흐른다고 주장했고, 인도의 브라만 계급도 자신들이 원래부터 다른 사람들보다 똑똑하다고 주장했지만, 그것은 순전히 허구였다. 하지만 미래에 우리는 업그레이드된 상위 계급과 사회의 나머지 구성원들 사이에 육체적·인지적 능력 차이가 실제로 벌어지는 현장을 보게 될 것이다. 

485p

인간은 전자기파 스펙트럼의 작은 일부만을 볼 수 있다. 전체 스펙트럼은 가시광선 스펙트럼보다 약 10조 배 더 넓다. 마음의 스펙트럼도 이처럼 광대하지 않을까?

494p

마찬가지로 우리는 훌륭한 교통수단 덕분에 도시 반대쪽에 사는 친구도 쉽게 만날 수 있다. 하지만 우리는 그 친구에게 온전히 집중하지 않는데, 다른 곳에서 훨씬 더 재미있는 어떤 일이 일어나고 있을 거라는 생각에 끊임없이 스마트폰과 페이스북 계정을 확인하기 때문이다. 현대 인류는 소외공포를 앓고 있고, 우리는 전보다 선택의 여지가 많아졌지만 선택한 것에 실제로 집중하는 능력을 잃어버렸다. 

497p

우리는 몸과 뇌를 업그레이드하는데는 성공한다 해도, 그 과정에서 마음을 잃게 될 것이다. 시스템은 다운그레이드된 사람들을 선호할 텐데 그것은 그런 사람들이 가지게 될 초인간의 특성 때문이 아니라, 그런 사람들은 시스템을 방해하고 속도를 떨어뜨리는 성가신 성질을 갖고 있지 않아서이다. 모든 농부들이 알고 있듯이, 염소 무리에서 가장 골치 아픈 존재는 대개 가장 똑똑한 염소이다. 농업혁명 과정에서 동물의 마음 능력을 떨어뜨리는 일이 반드시 필요했던 이유가 이것이다. 

505p

유기체는 알고리즘이며 기린, 토마토, 인간이 단지 데이터를 처리하는 각기 다른 방법에 불과하다는 개념에 동의하지 않는 사람도 있을 것이다. 하지만 이것이 현시점의 과학적 정설이며 우리 세계를 알아볼 수 없을 정도로 바꾸고 있다는 사실을 알 필요가 있다. 

오늘날에는 개별 유기체들만이 아니라 벌집, 박테리아 집단, 숲과 도시 같은 사회 전체가 데이터 처리 시스템으로 간주된다. 경제학자들도 점점 데이터 처리 시스템으로 경제학을 해석하는 추세이다. 일반인들은 경제가 밀을 재배하는 농부, 옷을 만드는 노동자, 빵과 속옷을 사는 소비자로 구성된다고 생각한다. 하지만 전문가들은 경제란 욕망과 능력에 관한 데이터를 수집해 그 데이터를 결정으로 전환하는 메커니즘이라고 생각한다. 

자본주의는 데이터를 나누어 처리하는 반면, 공산주의는 중아에서 모두 처리한다. 

510p

"잠깐만요. 복잡한 경제이론들은 일단 집어치웁시다. 하루 종일 런던을 쏘다녔는데, 이해할 수 없는 점이 하나 있습니다. 모스크바에서는 최고의 두뇌들이 빵 공급 체계를 관리하는데도 빵 가게와 식료품점 앞에 늘어선 줄이 줄어들지 않습니다. 그런데 런던은 수백만 명이 사는데도 오늘 지나가다 본 그 많은 상점과 슈퍼마켓 앞에 사람들이 줄을 서서 기다리는 모습을 한 번도 보지 못했습니다. 런던에서 빵 공급하는 일을 맡아보는 사람을 만나게 해주십시오. 비밀을 알아야겠습니다." 런던 관료들은 머리를 긁적이며 잠시 생각하더니 이렇게 말했다. "런던에 빵 공급하는 일을 맡아보는 사람은 없는데요." 

이것이 바로 자본주의의 성공비결이다. 런던의 빵 공급에 대한 모든 데이터를 독점하는 중앙 처리 단위는 어디에도 없다. 

522p

호모 사피엔스는 한물간 알고리즘이다. 인간이 닭보다 우월한 점이 무엇인가? 정보 흐름의 패턴이 닭들보다 훨씬 더 복잡하다는 사실밖에 더 있는가. 인간은 더 많은 데이터를 흡수하고 더 나은 알고리즘을 이용해 그것을 처리한다(일상 언어로 말하면, 인간이 더 깊은 감정과 더 뛰어난 지적 능력을 갖고 있다는 뜻이다. 하지만 현시점의 생물학 정설에 따르면 감정과 지능은 단지 알고리즘에 불과하다는 사실을 기억하라). 그렇다면, 인간이 인간보다 훨씬 더 많은 데이터를 흡수하고 훨씬 더 효율적으로 처리하는 데이터 처리 시스템을 창조한다면, 그 시스템은 인간이 닭보다 우월하듯 인간보다 우월하지 않을까?

530p

인간의 경험은 그 자체로는 늑대나 코끼리의 경험보다 나을 것이 없다. 데이터 조각의 가치는 어느 것이나 같다. 하지만 인간은 자신의 경험에 대해 시를 써 온라인에 게재할 수 있고, 그렇게 함으로써 전 지구적 데이터 처리 시스템을 풍성하게 한다. 이것이 인간의 데이터 조각들을 중요하게 만든다. 늑대는 이렇게 할 수 없다. 따라서 늑대의 경험은 아무리 깊고 복잡하다 해도 무가치하다. 따라서 우리가 경험을 분주하게 데이터로 전환하는 것은 당연한 일이다. 그것은 추세의 문제가 아니다. 생존의 문제이다. 우리는 자신이 여전히 가치 있다는 것을 자기 자신과 시스템에 증명해야 한다. 그리고 가치는 경험을 하는 데 있지 않고, 경험들을 자유롭게 흐르는 데이터로 전환하는 데 있다. 

534p

로크, 흄, 볼테르 시대에 인본주의자 들은 "신은 인간 상상력의 산물"이라고 주장했다. 이제 데이터교가 인본주의자들에게 그들이 한 대로 똑같이 돌려줄 차례이다. "신은 인간 상상력의 산물이지만, 인간 상상력은 생화학적 알고리즘의 산물이다." 18세기에 인본주의는 신 중심적 세계관에서 인간 중심적 세계관으로 이동함으로써 신을 밀어냈다. 21세기에 데이터교는 인간 중심적 세계관에서 데이터 중심적 세계관으로 이동함으로써 인간을 밀어낼 것이다.