AI 혁명과 인간의 미래, 유발 하라리
유발 하라리, 『넥서스』
‘넥서스(Nexus)’의 의미를 찾아보면 간단히 ‘연결 고리’라고 되어 있다. 유발 하라리는 본문 내용만 거의 600쪽에 이르는 책에서 한두 차례만 이 단어를 쓰고 있다. 의미로는 ‘사회적 네트워크에서 여러 연결점들을 연결하는 무엇’ 정도로 쓰고 있다. 그 의미는 사전적 의미와 거의 차이는 없지만, 이것이 정보, 컴퓨터, 네트워크, AI 등 (조금씩 그 의미는 다르지만) 뭐라 불러도 상관없는 이 책의 주인공과 만나면 익숙하지만 낯선 주제 의식을 맞닥뜨리게 된다.
유발 하라리는 ‘에필로그’에서 이 책을 쓰게 된 상황을 이야기한다. 20216년 『호모 데우스』를 출간한 후, 인류의 미래에 대해 이야기했다는 이유로 AI와 관련한 인물과 모임 등과 교류를 할 수 있었고, 이에 대해 깊이 들여다보고 생각할 수 있는 기회를 얻게 되었다. 자신의 전공(그의 전공은 중세 전쟁사다)인 역사적 시각과 결합해서 보았을 때 정보 혁명, 네트워크 혁명, 나아가 AI 혁명의 의미가 남다르게 보였던 것이다. 특히 정보라는 것과 관련해서 AI가 가지는 양면성에 대해서 사람들이 너무나 모르거나 무시하거나 왜곡하는 것을 보아왔고, 이를 바로잡거나, 또는 알려야 한다고 생각해서 이 책을 쓰게 되었다. (참고로 2016년은 이 책에서 매우 중요한 해다. 알파고가 이세돌 9단을 이긴 해이며, 페이스북의 알고리즘이 미얀마에서 로힝야족에 대한 인종차별을 부추겨 집단 학살로 내몬 해다.)
우선 정보에 대한 ‘순진한 관점’부터 공격한다. 정보에 대한 순진한 관점이란, 대표적으로 정보가 늘어나면 진실이 드러난다고 생각하는 것이다. 이에 대한 유발 하라리는 역사적으로 그런 관점은 통하지 않는다는 것을 역설하고 있다. 가장 대표적으로는 인쇄술 혁명으로 정보의 유통이 극적으로 증가함에 따라 인류는 보다 진실에 가까워졌으리라고 생각하지만, 코페르니쿠스의 『천구의 회전에 관하여』 초판은 400권도 채 팔리지 않았을 뿐만 아니라 근대 초기 마녀 사냥을 부추군 결정적 저서인 『마녀의 망치』는 불티나게 팔렸다. 이것 말고도 앞에서 얘기했던 2016년의 로힝야족 집단 학살도 페이스북이 단지 사용자 참여를 늘리라는 단순한 알고리즘 때문에 부추겨졌다는 점도 마찬가지다. 정보는 진실이 아니라 현실을 만들어낸다. 유발 하라리는 AI 혁명을 제대로 보기 위해서는 정보에 대한 순진한 관점부터 버려야 한다고 한다.
또한 정보에 대한 포퓰리즘적 관점에 대해서도 심각하게 경고한다. 정보에 대한 포퓰리즘적 관점이란 객관적 진실이란 존재하지 않으며, 모든 사람이 자기만의 진실을 가지고 있기 때문에 정보를 경쟁자를 무너뜨리기 위한 도구로 사용하는 것을 말한다. 즉, 정보란 힘이라는 얘기다. 그러나 이러한 관점은 세계적 협력을 무너뜨림으로써 AI라는 새로운 지배자에게 인간이 지배당하는 사태를 초래하게 될 것이라고 경고하고 있다. 역시 역사적 관점에 바탕을 둔 경고다.
이러한 역사적 관점에서 현재 우리가 만들어내고 있는 비유기적 생명체, 네트워크 혹은 AI를 이야기한다. AI는 인간이 만들어냈지만, 인간의 손아귀를 벗어날 수 있는 특성을 가진 존재다. 기존의 정보 혁명을 이끌었던 점토판, 인쇄술, 라디오 등이 반드시 그 네트워크에서 인간이 개입해야만 했다면 AI는 그렇지 않다. AI끼리 자체적으로 소통할 수 있다. 여기에는 인간이 필요 없어질 수도 있다. 잠도 자지 않으면서 감시할 수 있으며은 이해하지 않는 금융 상품을 만들어 내기도 한다. 유발 하라리는 AI를 ‘인공적 지능(artificial intelligence)’이 아니라 ‘이질적 지능(alien intelligence)’라고도 부르며 이것이 지금까지 우리가 역사적으로 겪었던 어떤 것과도 다른 새로운 종류의 정보 네트워크라는 강조하고 있다.
이런 완전히 다른 새로운 종류의 정보 네트워크, AI의 인간의 사회, 경제, 정치를 어떻게 변화시킬 것인가? 유발 하라리는 매우 디스토피아적 미래를 이야기한다. 물론 AI가 가져온 여러 혜택을 무시할 수는 없지만, AI의 속성으로 말미암아 우리가 어떻게 예측할 수 없다는 것이 그 이유다. 그래서 자신이 그리는 미래는 예측이라기보다는 하나의 가능성이라고 하지만, 그런 가능성이 전혀 엉뚱한 것이 아니란 점을 몇 번이고 확인한다. 특히 AI가 전체주의에 미칠 수 있는 영향은 끔찍하다. 우리가 영화 등을 통해서 미래의 AI가 지구를 파괴하고, 인류를 지배하는 상황과는 다른 경로를 통해 스스로 권력을 장악하여 인간을 마음대로 조종하는 시대가 올 지도 모른다고 경계한다.
그렇다면 무엇이 필요할까? 유발 하라리는 앞서 얘기한 정보에 대한 순진한 관점과 포퓰리즘적 관점을 가져서는 안된다고, 즉 정보의 속성을 명확히 인식해야만 AI 혁명을 옳게 볼 수 있고, 이것이 어떤 결정적 세계와 관련이 있지 않다는 것을 알 수 있다고 하고 있다. 그리고 아주 오랜 옛날부터 인간 사회를 유지시켜왔던 것을 다시 언급한다. 아마 책에서 가장 많이 언급하고 있는 것 중 하나일 텐데, 그것을 거의 마지막 부분에서 다시 정리하고 있다.
“우리가 지혜로운 네트워크를 구축하기 위해서는, 정보에 대한 순진한 관점과 포퓰리즘적 관점을 모두 버리고, 무오류성이라는 환상에서 벗어나 강력한 자정 장치를 갖춘 제도를 구축하는 힘들고 다소 재미없는 일에 전념해야 한다.”
유발 하라리의 책은 두 가지 면에서 의미가 있다고 본다. 하나는 역사와 미래를 보는 시각이 보편성과 함께 독창성을 함께 지녔다는 점이다. 그래서 미처 생각지 못했던 지점을 생각할 수 있도록 하고, 그것을 이질적으로 여기지 않게도 한다. 또 하나는 읽기로서의 가치다. 풍부하고도 적절한 역사적 사례 때문이라고 여겨지는데, 그가 드는 역사적 사례는 매우 잘 알려진 것에서 그렇지 않은 것까지 다양한데 어느 것도 지루하지 않다. 그는 역사에 대한 이해가 정치의 우선순위를 결정하며, 정치적 목표가 역사에 대한 깊은 신념에서 나온다고 본다. 그의 책을 읽다 보면 역사에 대한 ‘깊은’ 이해가 현실과 미래에 대한 이해로 어떻게 나아가는지를 볼 수 있다.
