어떻게 살아야 하는지 AI에게 묻는 시대
[책] 넥서스
유발 하라리 작가는 역사학자다. 정확히 말하면 전쟁사를 전공했다. 그러나 최근의 행보를 보면 그는 AI 전문가처럼 보인다. 왜일까. 아마도 사람들은 정보보다 이야기에 더 쉽게 빠져들기 때문일 것이다. 복잡한 기술적 설명이나 과학의 원리보다, 그 기술이 문명에 어떤 변화를 일으킬지, 인간의 삶을 어떻게 바꿀지를 더 궁금해한다. 그리고 그런 이야기는 언제나 역사와 맥락 위에 놓인다. 인류의 역사는 같은 실수를 되풀이하면서도, 그 실수를 통해 조금씩 진화해온 기록이다. 과학기술이 환경을 바꿔왔지만 인간의 본성은 크게 달라지지 않았다. 그래서 새로운 기술이 등장할 때마다 우리는 그것을 어떻게 사용할 것인가를 두고 토론하고, 합의하고, 때로는 갈등해왔다. 하라리는 이 반복과 성찰의 역사 속에서 AI 시대를 바라본다.
그는 『사피엔스』와 『호모 데우스』에서 인간이 지구에서 가장 강력한 종이 될 수 있었던 이유로 상호주관성(inter-subjectivity)을 제시했다. 인간은 돈, 종교, 법, 이념 같은 공동의 허구를 창조하며 협력할 수 있는 존재다. 우리가 서로를 믿고 협력할 수 있었던 것은 진실 때문이 아니라, 공유된 질서 덕분이었다. 『넥서스』에서 하라리는 한 걸음 더 나아가 이렇게 말한다.
“정보는 진실을 반영하기 위해 존재하는 것이 아니라, 질서를 유지하기 위해 존재한다.”
그는 정보의 본질을 ‘사실의 기록’이 아니라 ‘관계의 유지’로 본다. 인간 사회는 언제나 진실보다 질서의 지속을 우선시해 왔다. 왜냐하면 진실은 종종 불편하지만, 질서는 안정을 가져오기 때문이다. 그래서 인간은 이야기와 신화를 만들어 서로를 연결했고, 그 허구의 질서 위에서 문명을 쌓아올렸다. 돈, 법, 국가는 모두 객관적 진실이라기보다 집단이 만들어낸 믿음의 질서, 즉 사회를 묶어두는 정보의 그물망이다. 하라리가 말하는 ‘정보의 질서’란, 바로 그 믿음이 만들어내는 집단적 안정의 장치를 뜻한다.
이런 관점에서 그는 근대 이후 인류가 구축한 두 체제, 독재와 민주주의를 대조한다. 독재는 중앙집권적 구조를 통해 빠르고 효율적인 결정을 내릴 수 있다. 하지만 그 체제는 오래 지속될 수 없다. 하라리는 그 이유를 자정능력의 부재, 즉 스스로 오류를 교정할 수 없는 구조 때문이라고 본다. 인간은 불완전하다. 그렇기에 인간이 만든 제도 또한 끊임없이 수정되고 비판되어야 한다. 그러나 독재는 권력이 집중되고 정보가 위로만 흐르기 때문에, 진실이 왜곡되고 잘못이 반복된다. 진실보다 질서를 우선시하는 사회는 결국 자기모순으로 붕괴한다. 스탈린 시절 우크라이나의 대기근, 중국의 참새 소탕 운동은 그러한 붕괴의 전형적인 사례다.
반면 민주주의는 스스로를 고칠 수 있는 체제다. 정보가 중앙에 머물지 않고 사회 전반에 흐르며, 언론과 시민, 사법과 선거를 통해 순환한다. 오류를 인정하고 교정할 수 있는 시스템이 존재하기에 민주주의는 완벽하지 않더라도 끊임없이 진화할 수 있다. 그러나 오늘날의 민주주의는 또 다른 위기에 놓여 있다. 포퓰리즘과 정보 왜곡이 진실을 흐리고, 사람들을 각자의 허구 속에 가둬두고 있기 때문이다. 대화 대신 적대가, 토론 대신 분열이 남았다면 민주주의 역시 자정능력을 잃은 셈이다.
이 시점에서 AI의 등장은 인류 문명에 또 다른 질문을 던진다. AI는 인간이 만든 가장 강력한 정보처리 장치다. 그것은 인간의 언어를 학습하고, 패턴을 분석하며, 이제는 창작의 영역까지 넘보고 있다. 과거의 기술이 인간의 노동을 대신했다면, 지금의 기술은 인간의 사유와 판단을 대체하고 있다. 하지만 하라리는 경고한다. AI는 인간처럼 생각하지 않는다. 우리는 AI가 왜 그런 결정을 내렸는지 완전히 이해할 수 없다. 예를 들어 AI가 채용 과정에서 특정 지원자를 탈락시켰을 때, 그 이유를 설명할 수 없는 ‘블랙박스 결정’이 일어난다. 그 순간 인간은 이해할 수 없는 판단을 신뢰하는 존재로 전락한다. 하라리는 이런 상황을 “인간이 스스로보다 기계를 더 믿게 되는 시대”라고 부른다.
그는 또한 이제 인공지능의 사용에 대한 사회적 합의가 필요하다고 말한다. 개발의 속도에만 매몰된 현재의 흐름에 제동을 걸어야 한다는 것이다. ‘딥러닝의 아버지’로 불리는 제프리 힌턴, 맥북을 만든 스티브 워즈니악 등을 비롯한 3,000여 명의 과학자와 기술인들이 인공지능에 대한 규제가 필요하다는 공동 성명을 발표했다. 반면 거대 기업들은 인공지능 개발혁신을 일종의 전쟁이라 부르며, 앞다투어 막대한 투자를 이어가고 있다.
하라리는 이러한 양극화 속에서 ‘데이터 독재(Data Dictatorship)’의 등장을 경고한다. 데이터가 소수의 빅테크 기업이나 강대국에 집중된다면, 인간은 그들의 인공지능이 내린 판단을 따를 수밖에 없게 된다. 그것은 새로운 형태의 독재이며, 우리는 그들을 견제할 힘을 잃게 될 것이다. 그 순간 사회는 스스로를 교정할 수 있는 자정 기능을 상실하게 된다. 과연 앞으로 어떤 미래가 펼쳐질까. 기술이 인간을 지배할지, 인간이 기술을 다스릴지는 이 질문의 답에 달려 있다.
