21세기를 위한 21가지 제언(2) (유발 하라리著, 김영사刊)
기술기획업무를 오래 하면서 후배들에게 하는 이야기가 있었다. ‘사업부서 직원들은 돈 많이 벌기 위해 개발된 기술을 팔고 고객응대 방법을 공부해야 한다. 즉, 오늘을 사는데 충실해야 하는 사람들이다. 기술기획을 하는 직원들은 미래에 어떤 일들이 발생하고 변화될 것인가? 를 예측하기 위해 공부하는 사람들이다. 즉, 회사의 미래를 준비하는 사람들이다. ‘미래’라는 제목의 책을 많이 읽어라.‘
물론 꼰대 잔소리다. 후배들이 알아서 잘할 것이다. 혹시 아직 읽지 않은 후배들을 위해 총 5부 중 1부만 요약하려 한다.
제1부 기술적 도전
생명기술과 정보기술이 합쳐지면서 사상 최대 도전에 직면한 바로 지금 인류는 지난 수십 년간 세계 정치를 지배했던 자유주의 이야기에 대한 믿음을 잃고 있다.
1. 환멸: 역사의 끝은 연기되었다.
20세기 동안 뉴욕, 런던, 모스크바, 베를린의 글로벌 엘리트들은 세 가지 거대 이야기를 만들었고, 그것으로 과거를 설명하고 전 세계의 미래를 예측할 수 있다고 주장했다. 파시즘 이야기, 공산주의 이야기, 자유주의 이야기다. 2차 세계대전을 거치며 파시즘이 떨어져 나갔고 1980년대 후반까지 공산주의와 자유주의의 격전장이었다. 공산주의가 무너지며 자유주의가 세계의 미래를 위한 필수적 매뉴얼로 남았다.
자유주의는 자유의 가치와 힘을 신봉한다. 수천 년간 개인과 사상과 상품이동에 제약이 있었으나 장벽과 장애물을 걷어내고 열린 길과 자유로운 항로가 생겼다. 독재, 빈곤, 억압 등 아직 극복해야 할 장애물이 많다는 것을 인정한다. 많은 나라가 자유화 물결을 탔으나 2008년 세계 금융위기로 자유주의에 대한 환멸이 생기기 시작했다. 이민자와 자유무역협정에 대한 저항감이 커졌고 터키와 러시아의 스트롱맨은 반자유주의적 민주주의와 노골적 독재를 실험하고 있다. 세 가지 이야기 중 유일하게 남아있던 ‘자유주의’, 하지만 2018년 우리 앞에 자유주의는 없다. 세계를 지배했던 자유주의 엘리트들이 충격과 혼미의 상태에 빠진 것이다. 흡사 1980년대 소련의 엘리트와 같은 상태가 된 것이다. 현실을 해석할 대안적 프리즘도 없어 방향감각을 잃은 이들은 종말론적 사고에 빠져들었고 브렉시트와 트럼프의 부상이 인류문명의 종언을 예고한다고 우려하고 있다.
20세기 후반부에 각 세대는 이전 세대보다 나은 교육, 의료, 더 큰 소득을 누렸다. 하지만 다가올 수십 년 동안에는 기술적 파괴와 생태학적 붕괴가 합쳐져 젊은 세대는 현 상태만 유지할 수 있어도 다행일지 모른다. 결국, 우리에게 남겨진 과제는 자유주의를 대체하는 세계를 위한 갱신된 이야기를 만드는 것이다. 산업혁명의 격동이 20세기의 참신한 이데올로기를 낳은 것처럼 다가오는 생명기술과 정보기술 혁명을 맞이해서도 새로운 청사진이 필요할 것으로 보인다.
2. 일: 네가 어른이 되었을 땐 일이 없을지도 몰라
2050년대 고용시장, 기계학습과 로봇이 요구르트 제조부터 요가강습까지 거의 모든 분야의 일을 수행할 것이라는 데 대체로 합의가 이루어졌다.
산업혁명이 시작한 이래 대규모로 일자리가 줄어들지는 않았다. 인간은 육체적 능력과 인지적 능력이 있는데 아직까지는 주로 육체적 능력에서만 인간과 기계가 경쟁했고 인지력에서는 인간이 월등하게 우수했다. 학습과 분석 의사소통, 감정이해 등의 인지적 능력까지 AI가 추월하는 상황이 되었으며 속도까지 빨라 운전사, 은행원, 변호사까지 대체하게 된다. AI가 그동안 ‘인간의 직관’이 필요하다고 여겨온 업무에서도 인간을 능가하는 상황이 되었다. 보행자의 의도를 예측하고 협상테이블의 분위기를 감지하는 것은 마법이 아니라 상대의 표정, 음성, 손의 움직임 등으로 파악되는데 적절한 센서만 갖추면 AI가 더 정확하고 믿을만하게 처리할 수 있다.
물론 반대 현상도 있다. 미군이 리퍼 드론 한 대를 시리아 상공에 날려 보내는데 30명, 그렇게 수집한 정보를 분석하는데 80명이 필요해 2015년 미 공군은 이 직무를 담당할 운용인력 부족이라는 역설적 위기에 직면하기도 했다. 그렇다면 2050년 고용시장은 인간-AI의 경쟁보다는 상호협력이 두드러진 형태가 될 가능성이 크다. 1997 체스 프로그램인 딥블루가 세계챔피언을 꺾었으나 인간이 체스를 그만두는 일은 발생치 않았다. 오히려 AI트레이너 덕분에 인간의 체스실력은 향상되었다. 하지만 새로운 일자리는 전문성을 필요로 할 것이고 비숙련 노동자의 실직문제를 해결하지는 못할 것이다.
우리가 훨씬 더 걱정해야 할 일은 인간의 권위가 알고리즘으로 옮겨가는 것이다. 알고리즘은 자유주의 이야기에 대한 우리의 믿음을 파괴하고 디지털 독재의 부상으로 이어지는 길을 열지도 모른다.
3. 자유: 빅데이터가 당신을 지켜보고 있다
권위의 원천이 신에게서 인간으로 이동해왔고, 인간에게서 알고리즘으로 이동할지 모른다. 원숭이, 쥐, 인간은 뱀을 보면 두려움이 일어난다. 뇌 속의 수백만 개 뉴런이 데이터를 계산해 죽을 확률이 높다고 결론짓기 때문이다. 성적 매력, 분노, 용서 등의 생화학적 알고리즘도 수백만 년에 이르는 진화를 거치며 연마된 것이다. 하지만 우리는 감정이 계산 결과라는 것을 깨닫지 못하고 ‘자유의지’의 결과라고 착각한다.
우리는 지금 엄청난 두 가지 혁명이 합쳐지는 지점에 와 있다. 한편으로는 생물학자들이 인간 신체, 특히 인간의 뇌와 감정의 신비를 해독하고 있다. 동시에 컴퓨터 과학자들은 우리에게 유례없는 데이터 처리능력을 선사하고 있다. 생명기술혁명과 정보기술혁명이 합쳐지면 빅데이터 알고리즘을 만들어 낼 것이고 내 감정을 나보다 훨씬 더 잘 모니터하고 이해할 수 있다. 그런 다음에 권위는 인간에게서 컴퓨터로 이동할 것이다.
영화에서 로봇이 자신의 주인에게 반란을 일으키고 사람을 학살하는 것을 자주 봤다. 그러나 로봇의 진짜 문제는 정확히 그 반대다. 우리가 로봇을 두려워하는 이유는 로봇은 언제나 주인에게 복종할 뿐 결코 반란을 일으키지 않는다는 것이다. 물론 선한 주인을 만나 봉사한다면 맹목적인 복종은 조금도 나쁠 게 없다.
한 가지 희소식은 최소한 수십 년 안에 AI가 의식을 얻어 인간을 노예화하거나 멸종시키는 공상과학 같은 악몽이 현실로 닥치지는 않으리라는. 것이다. 우리가 결정을 내릴 때 점점 더 알고리즘에 의존하겠지만 알고리즘이 의식적으로 우리를 조작할 것 같지 않다. 하지만 빅데이터 알고리즘은 유례없는 불평등을 초래하여 부와 권력을 극소수의 엘리트에게 집중시키고 대다수를 착취의 대상으로 전락시킬 가능성이 있다.
4. 평등: 데이터를 가진 자가 미래를 차지한다.
지난 수십 년간 전 세계 인류가 평등으로 나아가고 있으며 세계화와 신기술이 여정을 앞당길 것이라 했지만 21세기에 역사상 가장 불평등한 사회가 생겨날 수 있다. 세계화와 인터넷은 국가 간 격차를 메우지만 계급 간 균열은 키울 조짐이 보인다. 불평등은 석기시대부터 존재했으나 2000년을 맞았을 때 전 세계인들이 캐나다와 핀란드 국민 같은 평등의 기회가 확대될 것이라는 기대를 했다. 세계화가 다수의 인류에게 혜택을 준 것은 분명하지만 사회 내부의 불평등이 커지는 신호는 뚜렷해지고 있다. 부유층 1%가 세계 부의 절반을 갖고 있고 최고부유층 백 명이 빈곤층 40억 명보다 더 많은 부를 가졌다. AI가 부상하면서 인간 대다수의 경제적 가치와 정치적 힘이 소멸할 수 있다. 슈퍼리치들은 수명을 늘리고 육체적 인지적 능력을 증강하는 치료를 받기 시작하며 인류는 생물학적 계층으로도 나눠질 수 있다.
만약 부와 권력이 소수에게 집중되는 것을 막고 싶다면 데이터 소유를 규제하는 것이나 이미 데이터 획득 경주는 시작되었다. 구글, 페이스북, 바이두, 텐센트 같은 거인들은 무료정보와 오락을 제공해 주의를 집중시킨 다음 광고주에게 판매한다. 하지만 이들의 진짜 사업은 광고를 파는 것이 아니라 우리에 관한 막대한 정보를 모으는 것이다. 이것은 광고수익보다 가치가 크다. 우리는 고객이 아니라 그들의 생산품이다. 알고리즘이 우리를 위해 뭔가 고르고 구매한다면 전통적 광고 산업은 파산할 것이다.
점점 더 많은 데이터가 스마트 기기로 흘러 들어감에 따라 기업과 정부 기관은 당신을 알고 조정하고 대신 결정을 내리기 수월해질 것이다. 정부는 기업을 제어하려 할 것이지만 대기업의 힘을 두려워해야 하는 것과 마찬가지로 역사적 경험을 보면 과도한 권력을 가진 정부가 낫다는 보장이 없다.
변호사, 철학자, 정치인, 시인에게 이러한 난제에 관해 관심을 두도록 하는 것이 나을 수 있다. 데이터 소유를 어떻게 규제할 것인가? 이것이야말로 우리 시대의 가장 중요한 정치적 질문일 수 있다.