권력은 정보에서 나온다...AI시대 권력은 누구에게?
유발 하라리의 '넥서스'
유발 하라리의 '넥서스'는 권력은 정보에서, 정보는 연결에서 나온다는 점에서 인공지능(AI) 시대의 인류에 대해 다룹니다. 넥서스(nexus)는 사회적 연결 고리를 뜻하는데 이는 정보의 특성입니다.
인류의 힘은 이 연결에서 나온다는 점을 유발 하라리는 그간 사피엔스를 비롯한 저작에서 강조해 왔습니다. 인류가 국가, 민족, 화폐라는 '신화'를 상상하고 이를 이야기를 통해 공유하며 상호주관적 현실로 만들었기 때문에 지배종이 될 수 있었다는 취지입니다.
권력 역시 마찬가지입니다. 역사적으로 권력자들은 총체적인 정보를 얻는 이들이었습니다. 로마의 티베리우스 황제는 자신이 직접 이 자리를 맡지 않고 근위대장에게 맡긴 까닭에 그의 꼭두각시로 전락합니다. 근위대장 세야누스는 경호의 편의를 이유로 그를 로마에서 섬으로 보내놓고 본인이 정보의 꼭대기에 올라 황제를 조종합니다.
지금까지 역사에서 개인들이 자유를 누릴 수 있었던 것은 정보 기술이 전제왕권이나 전체주의 독재자를 뒷받침해주지 못했기 때문이라고 유발 하라리는 지적합니다. 진시황제는 곡식 창고 관리에 대해 처별 규정을 쥐구멍 수 단위까지 만들며 전국 백성을 통제하고 싶었지만 그 넓은 땅을 일일이 통제할 통신 기술이 없었습니다. 20세기 러시아, 동유럽 국가 독재자들은 당과 비밀경찰을 동원해 국민들을 감시했지만, 이들이 매일 생산해 내는 막대한 보고자료를 처리할 능력은 보유하지 못했습니다.
하지만 고도화된 AI는 역사에 없던 '전 국민 감시'를 현실화할 수 있다고 지적합니다. 하지만 그런 디스토피아에서 최종 권력은 인간 독재자가 아닌 AI에게 돌아갈 수 있습니다. 로마 티베리우스 황제가 근위대장 세야누스의 꼭두각시로 전락한 것과 같은 이치인 것이죠.
여기까지는 좀 공상과학 소설의 영역으로 보일 수도 있습니다. 그럼 현재 지금 일어나고 있는 현상으로 눈을 돌려 볼까요? 유발 하라리는 AI의 대두 속에 세계가 '실리콘 장막'으로 분리될 수 있다고 진단합니다. 미국이 동맹국이나 주요 기업에 화웨이 5G 장비 사용을 금하고, 중국도 페이스북을 비롯한 서방 세계의 SNS 앱 사용을 금지합니다. 러시아도 미국은 물론 중국 앱 사용도 금지하고 있다고 합니다.
이는 단순히 주요 보안시설에 대한 해킹을 막기 위해서만이 아닙니다. 처음에 힘은 정보에서 나온다고 말씀드렸죠? 21세기 힘과 부의 원천인 빅데이터를 둔 전쟁이 시작된 것입니다. 구글의 래리 페이지가 "구글이 만들려는 것은 검색이 아니다. 우리는 AI를 만들고 있다"라고 말한 적이 있다고 합니다. 구글 이용자들이 올리는 수백만 장의 고양이 사진 등을 활용해 AI를 훈련시켜 고도화하는 것이죠.
중국 역시 자국 국민들에게 서방 SNS 사용을 금하고 위챗과 같은 자체 플랫폼을 쓰도록 함으로써 자체 빅데이터를 구축하고 있습니다. 이를 통해 자체 AI 역량을 강화하는 것이죠. 개인의 인권에 대한 기준이 서방보다 낮은 중국은 전 국민에 대한 방대한 개인 정보 수집이 용이해 AI 개발면에도 이점이 있습니다.
유발 하라리는 19세기 철도시대를 빗대며 이제 AI도 국가 개입 시대로 전환됐다고 설명합니다. 19세기 영국이나 미국에서 처음 철도가 놓였을 때, 철도를 놓고 관리한 주체는 민간 기업들이었습니다. 하지만 어느 순간 국가가 이 신기술의 중요성을 인식하고 활용했습니다. 철도와 전선은 제국주의 시대를 가능하게 한 신기술이었습니다.
AI도 아직은 페이스북, 아마존과 같은 민간 기업들이 개발을 주도하고 있지만, 점차 국가의 영역으로 편입되고 있다는 게 유발 하라리의 지적입니다. 결정적 사건은 2016년 알파고가 바둑 경기에서 이세돌 9단을 이긴 것이라고 유발 하라리는 집습니다. 실제 중국은 2017년 국가 AI 개발 계획을 발표합니다.
유발 하라리는 늘 그래왔듯 기술결정론을 부정합니다. 인류는 이제 역사에 없던 '스스로 판단하는 도구' AI를 손에 거머쥐었고, 어떻게 쓰느냐에 따라 그 파괴력은 인류는 물론 전 우주(의식이 있는 생명체가 오직 지구에만 있다면)에까지 미칠 수 있다고 경고합니다. 물론 같은 역사와 비슷한 수준의 기술을 갖고 시작했지만 천양지차가 된 한국과 북한처럼, 기술 자체보다는 이를 어떻게 활용하느냐가 중요하다는 메시지와 함께요.
