자유주의에 대한 환멸과
21세기가 맞이한 기술적 도전
유발 하라리 <21세기를 위한 21가지 제언>
21세기를 위한 21가지 제언
유발 하라리
지난 2018년에 유발 하라리의 <21세기를 위한 21가지 제언>이 출간되었다. 2015년의 <사피엔스>, 2017년의 <호모 데우스>에 이어서 나온 이 책으로 유발 하라리의 '인류 3부작'이 완성되었다고 말한다. 과연 이 책이 '인류 3부작'이라는 시리즈의 완결 편이라는 것이 저자의 의견이 맞는지는 모르겠다. 다만, 호모 사피엔스가 어떻게 지금에 이르게 되었는지에 대한 과거로부터의 탐구였던 <사피엔스>와 인공지능과 알고리즘을 필두로 한 문명의 진보가 초래할 수 있는 미래를 이야기했던 <호모 데우스>에 이어서, 이번에는 당장에 우리가 마주하고 있는 현안들을 다루었다는 점에서 <21세기를 위한 21가지 제언>이 3부작의 완결 편이라는 평은 적절해 보인다.
본격적으로 책에 대한 이야기를 시작하기에 앞서 세 책의 출간 시기를 다시 한번 주목해볼 필요가 있을 듯하다. 유발 하라리를 세계적인 지성의 반열에 올려놓은 <사피엔스>부터 약 4년 동안 무려 세 권이다. 그 깊이나 광범위한 학문들을 조합한 것으로 봤을 때는 한 권을 집필하는 데만 해도 적지 않는 시간이 투자되었을 듯한데, 불과 몇 년 만에 과거와 미래를 이어 현재에 대한 이야기까지 세 권을 써냈다. 이는 유발 하라리가 앞의 두 권과 '21&21'을 통해 전하고자 하는 메시지가 인류에게는 더 이상 여유를 부릴 수 없는 일들에 대한 것이기 때문일 것이다. 21가지 중 몇 개의 주제를 선택해서 몇 편에 걸쳐서 유발 하라리가 제시한 제언 대해서 그의 견해를 다시 복습해보고, 의견을 정리하면서 조금씩 책에 대한 이해를 높여나가고자 한다. 유발 하라리의 책을 탐구하는 것은 세상에 대한 통찰력을 기르는 것과 같은 여정이 될 것이다.
책 21세기를 위한 21가지 제언(김영사), 유발 하라리1. 환멸
- 역사의 끝은 연기되었다.
환멸이란 기존에 가지고 있던 꿈이나 이상 등이 깨어질 때 느끼는 감정을 말한다. 여기서는 우리가 믿는 이야기에 대한, 정확히는 자유주의에 대한 꿈이 깨어지는 환멸을 말한다. 20세기 이후로 공산주의와 파시즘 등의 전체주의의 도전이 있었으나 지금까지 살아남은 지배적인 이데올로기는 개인의 자유가 가지는 가치와 힘을 신봉하는 자유주의다. 오히려 세계대전과 냉전 등 이념의 대립을 겪은 자유주의는 공산주의식 복지제도까지 지평을 넓히며 더욱 견고해졌다.
1990년대까지만 해도 자유주의는 마침내 역사가 도달한 최후의 이데올로기처럼 보였다. 사상가와 정치가들은 민주주의, 인권, 자유시장, 그리고 정부의 복지서비스까지 갖춘 자유주의가 유일한 해법이라고 믿었다. 하지만 최근 자유주의는 히틀러와 체 게바라의 도전에 이어 트럼프와 브렉시트의 순간을 맞이했다. 트럼프와 브렉시트를 지지하는 영국인들과 미국인들이 자유주의를 거부하는 것은 아니지만, 그들은 자유의 범위를 한 국가의 국경 내로 좁혀야 한다고 믿기 시작했다.
자유주의에 대한 전 지구적인 믿음이 신뢰를 잃어간다고 하더라도, 현재 공존하고 있는 러시아의 민족주의나 이슬람 신정 체제 같은 것들이 자유주의를 대신할 수 있는 것은 아니다. 오늘날 유럽의 자유주의 국가로 이민 가고 싶어 하는 사람은 이슬람 신정 국가인 중동지역으로 가고 싶어 하는 사람보다 훨씬 많다. 지금의 인류에게는 자유주의보다 나은 대안이 등장하지 못했다. 자유주의가 오류를 보이는 틈을 타서 세계 곳곳에서 민족주의와 고립주의가 일어나는 듯 하지만, 지금까지의 이야기들 중에 자유주의보다 실적이 좋았던 것은 없다.
하지만 자유주의조차도 생태학적 붕괴와 기술적 파괴라는 인류가 당면한 가장 큰 문제에 대한 명확한 답이 없다. 자유주의는 경제 성장에 의지해서 정치적, 사회적 어려운 갈등들을 해결(모두에게 파이를 더 키워주겠다는 약속을 통해)해왔으나 기술적 파괴만큼은 같은 방법으로 해결할 수가 없다. 자유주의의 경제 성장 자체가 파괴적인 기술의 발명에 의존하고 있기 때문이다. 이로 인해 지난 수십 년 동안 인류는 큰 번영을 누렸지만, 지금과 같은 생태적 학적 붕괴와 기술적 파괴가 계속된다면 언젠가는 현상유지만 할 수 있어도 다행일지도 모르는 순간이 수십 년 내에 올지도 모른다고 유발 하라리는 말한다. 결국에는 자유주의를 보완하든, 새로운 이데올로기를 만들어내든 생명기술과 정보기술의 혁명에 대처할 수 있는 갱신된 이야기가 필요할 것이다. '우리의 자유주의는 유일한 해법이자 완벽하다'는 이상은 깨어졌다. 하지만 그것을 세계의 종말처럼 받아들일 필요는 없다.
'우리는 여전히 환멸과 분노의 허무주의적 순간 속에 있다. 사람들은 옛이야기에 대한 믿음을 잃었지만 새로운 것을 수용하는 데는 이르지 못했다. 그래서 그다음은 무엇이란 말인가? 그 첫걸음은 어둠의 예언을 진정시키고, 공황상태에서 당혹으로 전환하는 것이다. 공황도 일종의 오만이다. 이것은 세계가 어느 방향으로 가고 있는지-나쁜 방향이라는 것을-정확히 안다는 우쭐한 느낌에서 나온다. 당혹은 보다 겸허하다. 그래서 보다 명민하다. 만약 거리로 달려 나가 "종말의 날이 왔다!"라고 외치고 싶다면, 자신에게 이렇게 말해보라. "아니야, 그건 아니야. 사실은 내가 세상이 어떻게 돌아가는지 이해하지 못하는 것뿐이야"'
< 21세기를 위한 21가지 제언 41p >
'기술 혁명은 앞으로 수십 년 내에 탄력을 받을 것이고, 그로 인해 인류는 지금껏 겪어보지 못한 가장 힘든 시련에 직면하리라는 것은 의심의 여지가 없다. (...) 자유주의와 민족주의, 이슬람 혹은 다른 어떤 참신한 신조가 2050년 세계를 건설하려 한다면, 인공지능과 빅데이터 알고리즘과 생명공학을 이해하는 데 그칠 것이 아니라 그것들을 유의미한 새로운 서사로 통합할 필요가 있을 것이다.'
(21세기를 위한 21가지 제언 42p)
2. 일
- 네가 어른이 되었을 땐 일이 없을지도 몰라
두 번째 주제부터 유발 하라리는 기술적 도전으로 인해 우리가 당면하게 되는 문제들에 대해 세세하게 들여다보기 시작한다. 4차 산업혁명과 AI의 부상이 인간의 일자리를 빼앗아 갈 것이라는 예견에 대한 반박 중에는 과거 산업혁명에서도 없어진 분야의 일자리만큼 새로운 서비스 직이 생겨났다는 주장이 있다. 그러나 인간이 가진 두 가지 유형의 능력, 육체적 능력과 인지적 능력 중 과거 기계가 대체한 것은 주로 육체적 능력에 대한 것이었다. 그러나 AI는 이제 인지적 기술, 예를 들어 학습, 분석, 의사소통 그리고 인간의 감정을 이해하는 기술까지 점점 인간을 초월하고 있다. 인간이 앞으로 발명될 기술에 비해 언제나 우월할 수 있으리라 믿어지는 영역이란 찾아보기 힘들다. 인간의 '직관'이 필요하다고 여겨져 온 분야조차 AI가 능가할 수도 있다.
'보행자의 의도를 예측하는 운전사, 잠재적 대출자의 신용을 평가하는 은행원, 협상 테이블에서 분위기를 감지하는 변호사는 마법에 의지하지 않는다. 오히려 자신도 모르는 사이에, 뇌는 상대의 얼굴 표정과 음성의 높낮이, 손의 움직임, 심지어 체취까지 분석하는 방법으로 생화학적 패턴을 파악한다. AI가 적절한 센서만 갖춘다면 인간보다 훨씬 더 정확하면서도 믿을 만하게 모든 일을 처리할 수 있을 것이다. 따라서 실직의 위협은 정보기술의 부상에서만 야기되는 것이 아니다. 정보기술과 생명기술이 합쳐지면서 증폭된다. (...) AI가 보유한 비인간 능력 중에 특별히 중요한 두 가지는 연결성과 업데이트 가능성이다. (...) 개별 인간은 통합된 네트워크에 의해 대체될 가능성이 높다. 따라서 우리가 자동화를 생각할 때, 인간 운전사 한 명을 자율주행 차량 한 대와 비교하거나 인간 의사 한 명을 AI 의사 하나와 비교하는 것은 잘못이다. 그보다 인간 개인의 능력들을 합산한 것을 통합 네트워크의 능력과 비교해야 한다.'
(21세기를 위한 21가지 제언 47~48p)
전체 차량의 운전사를 컴퓨터로 대체할 경우 이들이 단일 알고리즘에 속하기 때문에 교통사고 위험을 현저히 줄일 수 있다는 내용은 전작 <호모 데우스>에서도 언급된 바 있다. 알고리즘이란 인류의 미래를 이해하기 위한 핵심적인 개념인데 간략하게 설명하자면 문제를 해결하는 순서화된 절차, 혹은 결과에 이르는 과정을 말한다. 업무가 체계적으로 순서화된 것일수록 알고리즘화가 용이하므로 미래에 인공지능에 의해 대체될 가능성이 높다. 또한, 위의 내용처럼 통합된 네트워크가 훨씬 더 효율적이거나, 빠른 업데이트가 필요한 영역은 인공지능이 우월한 역량을 발휘할 수 있다. 단일 알고리즘의 자율주행차량 체제가 수백만의 생명을 구할 수 있다면, 단지 일자리를 보존한다는 목적으로 자동화를 막는 것은 터무니없는 일이 될 것이다. "우리가 보호해야 할 궁극의 목표는 사람이지 일자리가 아니다."
창의성이야말로 인간 능력의 최후의 보루로 보인다. 이는 맞는 말이지만, 알고리즘은 결국엔 음악을 만들어낼 수도 있다. 수백만의 데이터를 조합해 고객의 감정에 안성맞춤인 예술을 제공할 수 있다. 물론 우리가 단순히 감정을 자극하는 것 이상을 예술로 정의한다면, 알고리즘은 뛰어난 예술가는 될 수 없을 것이다. 문제는 그런 점에 있어서는 많은 인간 예술가 또한 나을 것이 없다는 것이다. 차이코프스키, 베토벤, 모차르트를 인공지능이 대체할 수는 없겠지만, 단지 많은 예술가들을 대체하는 것이 AI의 목표라면 그리 어렵지 않은 일이 될 수도 있다.
새로운 일자리가 생겨날 것은 분명하지만, 무용(無用) 계급이 출현할 가능성도 농후하다. 착취를 두려워했던 과거의 민중들과 달리 가까운 미래에는 세계와 무관 해지는 것을 걱정해야 할지도 모른다. 체스게임에서 AI 기술이 빠르게 발달하면서 인간 체스 선수들은 컴퓨터 체스 선수에게 패배했다. 인간이 AI의 도움을 받는 인간-AI체스팀은 얼마간 좋은 성적을 올렸는데, 곧 컴퓨터의 체스 실력이 너무나 좋아져서 인간 협력자의 가치는 거의 사라졌다고 한다. 인간-AI 체스 팀에 일어나고 있는 일은 컴퓨터와 AI를 활용하고 있는 다양한 사업분야에서도 일어날 수 있다.
물론 많은 내용들이 현재까지는 추측에 불과하다. 정치적 결정과 문화적 전통이 기술적인 돌파 못지않게 상황 전개에 영향을 주기 때문에, 기술 발전의 미래가 어떤 충격을 줄지 구체적으로 추측하는 것은 극도로 어려운 일이다. 그러나 우리는 이 문제에 대해서 아주 심각하게 생각해보아야 한다. 산업화라는 극도의 변화를 겪은 근대 경제를 경영하기 위해 인류는 자유주의, 파시즘, 공산주의 등을 개발해야 했고 최선의 해법인 자유주의를 선택하기 위해 끔찍한 전쟁들을 겪어야 했다. 오늘날 우리가 가진 무기들의 파괴력을 감안한다면 더 이상 전쟁과 실패한 모델을 용인할 여유가 없다.
일자리가 아닌 인간을 보호한다는 관점에서 보편 기본소득제(UBI)와 보편 기본 서비스라는 대안들도 제시되고 있다. '일'이라 할 수 있는 범위를 완전히 확대(자신의 아이를 돌보는 일 등)해서 정부가 그에 대한 소득을 제공하는 것이 전자에 해당하며, 교육 및 교통 등의 무상 서비스를 확대하는 것은 후자에 해당한다. 각각 자본주의와 공산주의의 낙원과 같은 시나리오인데, 이들이 구체적으로 어떻게 적용될 것이며 과연 이상과 같이 긍정적인 방향으로 실현 가능한 것인지에 대해서는 더욱 고민해볼 필요가 있다.
'보편적인 경제 안정망과 더불어 강력한 공동체와 의미 있는 삶의 추구를 결합할 수만 있다면, 우리가 알고리즘에 일자리를 빼앗기는 것이 실제로는 축복일 수 있다. 하지만 우리 삶에 대한 통제력을 잃는 것은 훨씬 무서운 시나리오다. 대량 실업의 위험과는 별도로, 우리가 훨씬 더 걱정해야 할 일은 인간의 권위가 알고리즘으로 옮겨가는 것이다.'
(21세기를 위한 21가지 제언 79p)
3 & 4 - 자유와 평등
- 빅 데이터가 당신을 지켜보고 있다.
- 데이터를 가진 자가 미래를 차지한다.
민주주의의 선거와 국민투표는 인간의 이성적 판단이 아닌 느낌에 관한 것이다. 이 느낌이야말로 '자유의지'의 원천이며 누가 더 뛰어난가에 상관없이 모든 개인은 자유를 가지고 똑같은 한 표를 행사한다. 문제는 앞으로 기술의 발전으로 그런 느낌을 해킹할 수 있게 된다면 민주 정치가 인형극으로 돌변하게 될 수 있다는 것인데, 이것이 자유주의의 약점이 될 수 있다. 우리는 자유를 당연한 것이라 여기지만, 사실 세상의 권위가 전지전능한 신에게서 개인의 자유로 옮겨온 것은 그리 오래되지 않았다. 마찬가지로 다가올 기술 혁명이 개인의 자유에서 빅데이터 알고리즘으로 권위를 옮겨 놓을 수 있다.
우리의 데이터를 분석한 알고리즘이 내가 좋아하는 음식, 지금의 기분에 보면 좋을 영화, 어울리는 음악, 나아가 결혼할 배우자에 대해서 까지 더 적절한 선택을 할 수 있는 능력이 생기면, 그때도 개인의 자유가 권위를 유지할 수 있을지는 의문이다. 알고리즘 역시 완벽할 순 없지만 인간의 역할을 넘겨받기 위해서 필요한 것은 완벽이 아니라 인간보다 나은 능력이다. 완벽한 선택이 아니라 개인보다 나은 선택을 찾는 능력을 발견하면 인류는 점차 AI에게 모든 선택의 권한을 이양하고, 기꺼이 빅데이터 체계에 자신의 모든 정보를 내맡길지도 모른다.
정권은 윤리적으로 타락하기 쉬우므로 종국에는 모든 개인이 끊임없이 관찰당하는 감시 체제, 즉 디지털 독재 하에서 살게 될 위험이 있다. 권위주의 정부는 시민들의 기분을 파악하는데 그치지 않고 조종하는 수준까지 이를 수도 있다. 이것은 히틀러와 스탈린의 독재와는 또 다른 것이다. 20세기의 신기술이 히틀러에게 힘을 주었듯이 21세기의 신기술은 오늘의 독재자에게 다른 힘을 줄 것이다. 지금 우리로서는 그것이 정확히 무엇이 될지 예측할 수 없다.
또한 민주주의를 지키고 디지털 독재의 위협으로부터 벗어난다고 하더라도, 21세기에 우리는 집단이 아닌 개인의 차원에서 새로운 차별과 압제에 시달릴 수 있다. 예를 들어 은행은 단순히 알고리즘이 안 된다고 했다는 이유만으로 대출을 거절할 수 있다. 은행도 알고리즘이 왜 대출 부적격 판단을 내렸는지 온전히 이해하지 못한다. 아마 알고리즘은 개인의 DNA나 페이스북 등에서 뭔가 못마땅한 것을 찾아냈을 수도 있다.
"알고리즘은 여성이거나 흑인이어서가 아니라 바로 당신이라는 이유로 당신을 차별한다. 당신에 관한 구체적인 무엇을 알고리즘이 싫어하는 것이다. 당신은 그것이 무엇인지도 모른다. 심지어 안다 해도 다른 사람과 조직해서 항의를 할 수도 없다. 똑같은 선입견으로 피해를 본 사람은 아무도 없기 때문이다. 당신 혼자뿐이다. 21세기에는 집단적인 차별을 넘어 개인 차별의 문제가 점점 더 심각해질 수 있다."
(21세기를 위한 21세기 제언 117p)
자유주의는 자유와 더불어 평등의 가치를 중시한다. 그 평등이라는 가치는 더 큰 위협에 놓일 수 있는데, 이에 대한 가장 실감 나는 예시는 이미 <호모 데우스>에서 제시된 바 있다. 예를 들어 생명공학의 발달로 인류가 죽음을 극복하게 되는데 그 비용이 아주 비싸다면, 과거 어느 불평등의 시대에서도 모두에게 공평했던 죽음조차도 이제는 하위계층의 전유물이 되는 것이다. 당장에 영생까지는 아니더라도, AI의 부상과 생명공학의 결합이 소수의 '슈퍼 휴먼' 계층과 쓸모없는 '호모 사피엔스' 대중으로 사회를 양분할 수 있다. 생명을 살 수 있고, 수명을 늘리거나 육체적, 인지적 능력을 증강하는 값비싼 치료가 발명된다면 인류는 여러 생물학적 계층으로 나뉠 것이다. 기술의 발전이 생명을 설계할 수 있는 힘을 가질 때, 유래 없는 불평등의 시대가 도래할 수도 있다.
이상은 <21세기를 위한 21세기 제언>의 첫 번째 파트 '기술적 도전'의 내용들을 대략적으로 정리한 것이다. 호모 데우스와 마찬가지로 여러 부분에서 독자들이 불편함을 느끼게 만든다. 저자는 언제나 미래에 대한 정확한 예측은 불가능하며 자신의 책 역시 많은 부분들이 추측의 내용들임을 말하지만, 이 모두가 하나의 가능한 미래들임은 분명하다. 유발 하라리가 이러한 디스토피아적인 미래를 제시하는 것은 우리가 너무 늦지 않게 고민하고 보다 나은 방향으로 우리의 미래를 이끌 수 있도로 하기 위함일 것이다.
본 글은 유발 하라리의 <21세기를 위한 21가지 제언>의 일부를 요약 및 정리한 것입니다.
