유발 하라리 vs. 일론 머스크

넥서스 By 유발 하라리

AI 같은 천재 vs. AI가 되고 싶은 야심가

이번 넥서스도 그렇지만 사피엔스를 읽을 때도, 아! 동년배의 이 사람은 나랑 다른 시간을 산 것인가 생각했다. 방대한 지식을 그만의 철저한 논리로 신뢰롭고 읽기 쉽게 그러면서 이리도 길게 쓸 수 있다니! 정말 대단하다.

교보문고 책 소개에서 가져왔습니다.

이 책의 핵심은, AI 혁명에 대비하기 위해서는 컴퓨터의 정보독재를 막을 수 있는 강력한 자정장치 시스템이 필요하다는 것이다. 그 주장의 전제는 AI가 이전의 종이와 인쇄의 발명과 달리 완전히 이질적인 방식으로 스스로 생각하고 결정을 내릴 수 있다는 것 그리고, 그 결정은 알파고가 인간이 도무지 상상해 낼 수 없었던 이세돌을 이긴 '불가해한 37번째 수'와 같다고 말한다. 그러니, 그 불가해하고 우리와 전혀 다른 방식으로 사고하는 AI를 통제할 수 있는 장치가 없다면 우리는 완벽히 통제당할 것이라고 위협적으로 경고한다. 그리고 마지막으로 그 힘이 아직 우리에게 있으니 희망을 놓지 말고 애써보라고 응원한다.

이 글을 보면서 AI의 낙관론을 설파하는 일론 머스크 생각이 났다. 자율주행자동차 개발, 테슬라의 휴머노이드 로봇 옵티머스, 민주주의 공론의 장을 위해서 인수했다는 X, 스페이스 X가 쏘아 올린 7000개가 넘는 인공위성, X의 AI 그록까지... 그는 스스로가 AI 혁명가가 되고 싶은 것인가 하는 생각마저 들었다. 한창 테슬라의 주가가 출렁일 때 나 역시 그 주식을 8주 샀다. 그리고 지금 꽤 올라서 수익률이 무려 64%이다. 나에게 수익을 가져다주었지만, 나는 일론 머스크를 보면 두렵다. 전 세계의 2/3의 인공위성을 가지고 있는 그의 정보력과, 그 정보력을 바탕으로 여론을 만들어가는 X의 활약은 이번 트럼프 선거 때 진가를 발휘했다. 민주주의를 대표하는 아고라라고 하기에 X의 알고리즘은 편향되어 있었으니 말이다. 일론 머스크는 "AI가 오류로부터 완전히 자유로울 것(p. 126)"이라고 하지만, 유발 하라리는 그 전제부터 틀렸음을 조목조목 사례 별로 정리해서 명시하였다. 심지어, 성경도 오류가 있는데, AI가 없을 턱이 없다고 당당히 말한다. 무오류라는 오류를 범하지 않기 위해 우리에게 필요한 것은 감시의 눈, 그것도 하나 둘이 아닌 정교한 연대의 눈이 필요함을 말한다. 돈과 정보, 기술을 가지고 무소불위의 권력을 휘두르려 하는 일론 머스트의 최대 약점은 AI와 달리 그가 유한한 삶을 살 것이라는 것뿐일까? 그에게는 가장 한탄스러운 일이겠으나, 나에게는 가장 큰 위안이다.

이 책의 처음과 끝에서 작가는 분명히 강조한다. 아직 기회가 있고, 희망이 있다고. 그런데 나에게는 그렇게 들리지 않아 슬펐다. 극우 유튜버들로 인해 사람들은 계엄이란 내란을 일으킨 수괴의 편을 들어 거리에 나서고, 트럼프는 자국의 이익을 앞세워 배타적인 정책을 밀고 나가고 있다. 푸틴은 광기와 탐욕에 휩싸여 우크라이나와의 전쟁을 멈추지 않고, 중국은 미국을 견제하기 위해 자국민의 기본권과 기본적인 윤리도 무시한 채 AI 개발에 만전을 기하고 있다.

희망은 진짜 있을까? 코로나 19 바이러스로 온 세상을 위협했을 때가 오히려 동화처럼 전 세계가 한 팀이 되었던 처음이자 마지막 순간이 아니었을까? 유발 하라리가 주장하듯 인류가 단합하여 AI혁명에 맞설 강력한 자정장치를 만들기를 기대하는 것보다는, 일론 머스크의 말처럼 AI가 인류에게 재앙이 아닌 도움이 되길 바라는 것이 더 가능성있지 않을까 하는 비겁한 생각마저 드는 것이다.

파고는 내 역량보다 높고 나는 무력하다. 나는 메트릭스의 파란약을 집어드는 소시민일까? 하지만, 아들을 생각하면 파란약이 목에 콱하고 걸리는 것만 같다. 이 책을 나보다도 아들이 읽기를 바랐던, 책임을 떠넘기려했던, 나의 나약함과 비겁함이 반성된다. 얼마나 더 그들에게 미룰 것인가... 뭐라도, 뭐라도 내가 할 수 있는 일이 있을까? 아... 테슬라의 주식을 팔아야 하나!

AI 혁명의 핵심은 알고리즘이 인간 개발자가 프로그래밍하지 않은 것을 스스로 학습할 수 있고 인간 경영진이 예측하지 못한 결정을 내릴 수 있다는 것이다.

새로운 컴퓨터 네트워크는 우리와는 이질적인 성격을 가지고 있으며 오류를 범 할 것이라는 점이다 그리고 우리는 이 오류를 점검하는 기관을 만들어야 한다.

인류가 단합한다면 AI를 통제하고 알고리즘에 오류를 찾아내 바로 잡을 수 있는 제도를 만들 수 있지만 불행히도 인류는 한 번도 단합한 적이 없다.

역사의 중요한 교훈 중 하나는 우리가 자연스럽고 영원하다고 생각하는 많은 것들이 사실은 인간이 만들었으며 바뀔 수 있다는 것이다. 선택을 잘해야 할 막중한 책임이 우리에게 있고 우리가 노력할 경우 더 나은 세계를 만들 수 있다. 모든 오래된 것은 한때 새로운 것이었다 역사의 유일한 상수는 변화다.