brunch

매거진 주간 문사철

라이킷 19 댓글

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by 송용원 Dec 01. 2024

[넥서스(Nexus)](2024) - 유발 하라리

- "역사의 유일한 상수는 '변화'다"

"역사의 유일한 상수는 '변화'다"

- [넥서스], 유발 하라리, 2024.

"역사는 과거를 연구하는 것이 아니라 '변화'를 연구하는 것이다. 역사는 우리에게 무엇이 그대로이고, 무엇이 변하며, 어떻게 변하는지 가르쳐 준다. 이 원리는 다른 모든 종류의 역사적 '변화'와 마찬가지로 정보혁명에도 적용된다."

- [넥서스], <프롤로그>, 유발 하라리, 2024.

2011년에 [사피엔스(Sapiens)]라는 책으로 인류 뿐만 아니라 전지구적 생태계 일반의 역사까지 아우르는 '빅 히스토리' 열풍을 일으킨 이스라엘 역사학자 유발 하라리(Yuval Noah Harari : 1976~)는 2015년에는 [호모 데우스(Homo Deus)]로 '인지혁명', '농업혁명', '과학혁명'을 거친 인류가 궁극에는 '정보혁명'의 대표격인 AI 혁명으로 현대판 '길가메시' 영생을 길을 '사피엔스'답게 슬기롭고 지혜롭게 열어가면서 유한한 '인간(Homo)'이지만 또 하나의 새로운 '신(神:Deus)'이 될 것이라고 '예언'했다.

역사학자로서 [총,균,쇠](1997)의 제레드 다이아몬드의 뒤를 이어 본격적인 '빅 히스토리' 대가가 되었지만, 갈수록 급격한 현대 과학기술혁명을 맞아 '미래예언서'로 전환되는 듯한 유발 하라리는 어느덧 내 관심에서 멀어졌다. 모든 책은 결국 '역사책'이며 모든 지식은 궁극에는 '역사지식'이라고 생각하는 나로서는 유발 하라리에 관해 알고 싶다면 [사피엔스] 한 권으로 충분하다고 생각했다.

https://brunch.co.kr/@beatrice1007/45

[사피엔스] 외 - 유발 하라리

스스로를 끊임없이 초월하려는 '호모 사피엔스'의 '과학적 역사' | 책소개) [사피엔스] - 유발 하라리 (2011) 외- 스스로를 끊임없이 초월하려는 '호모 사피엔스'의 '과학적 역사'"이 책의 시작에서

brunch.co.kr/@beatrice1007/45

그러던 중 최근에 동성애 남편과 함께 교육과 스토리텔링 사회적 기업인 '사피엔스십(Sapienship)'을 창립하여 AI로 대표되는 현대 과학혁명의 중대 문제를 연구하고 있다는 유발 하라리의 근황이 궁금하여 그의 최근작 [넥서스(Nexus)](2024)를 펼쳤다.

"이 책의 입장... 인간 병사들은 자신들의 유전코드와 상사의 명령을 따르지만 그럼에도 여전히 독립적인 결정을 할 수 있다. AI 알고리즘도 마찬가지임을 이해하는 것이 중요하다. 알고리즘도 인간 개발자가 프로그래밍하지 않은 것을 '스스로' 학습할 수 있고 인간 경영진이 예측하지 못한 결정을 내릴 수 있다. 수많은 (비인격적) '새로운 주체들'이 세상에 등장하여 강력한 영향력을 행사하고 있다는 것, 이것이 AI 혁명의 본질이다."

- [넥서스], <2-6. 새로운 구성원 : 컴퓨터는 인쇄술과 어떻게 다른가?>, 유발 하라리, 2024.

9년 전 [호모 데우스]의 결론은, 다소 진부하지만 19세기 근대 '과학혁명'과 산업혁명의 연속으로서 21세기 현대의 '정보혁명'인 급진적인 AI 혁명 과정에서도 인류(사피엔스)는 지혜로운 선택과 결정으로 긍정적인 미래를 열어갈 수 있다(역사), 또는 열어가야 한다(예언)는 것이었다.

2018년부터 구글과 페이스북, 유투브, 일론 머스크 같은 AI 관련 기업과 기업가 등을 조사하고 연구하면서 집필하기 시작해 2024년 올해 발표한 유발 하라리의 책 [넥서스] 역시, '과학혁명'의 최신판인 AI 정보혁명 과정에서 '비유기(비인간)적인 새로운 주체로서의 컴퓨터 정보네트워크 환경 속 기존의 인식적 주체인 인류(사피엔스)의 현명한 선택과 결정을 믿는다는 이야기를 다시금 강조하고 있다.

'넥서스(nexus)'는 '연결고리'라는 뜻의 라틴어다. 유발 하라리의 [넥서스]는 [사피엔스]에서 고찰했던 언어의 발전으로 시작한 인류 최초의 '인지혁명', 즉 '이야기'를 통한 '인간 네트워크들'([넥서스], <1부>)을 역사적으로 서술하면서 시작한다.

유발 하라리에 의하면 역사는 마르크스주의가 규정하듯 경제와 물질 결정론이 아니다. 인간 관계(네트워크/넥서스)를 규정하고 변화시킨 것은 신화와 종교, 이데올로기 같은 '이야기'들이다. 인간은 경제적 이해관계나 권력투쟁 또는 계급투쟁 보다는 신화 또는 종교와 같은 이데올로기, 즉 '이야기'를 공유하면서 전쟁도 일으켰고 함께 발전도 해 왔다는 주장이다.

역사학자답게 인류 역사에서 '이야기'의 역사를 중심으로 하여 문자와 인쇄술([넥서스], <1-3>), 이른바 '거룩한 책들'로 번역된 '무오류성'을 본질로 하는 [성경]같은 각종 경전들(같은책, <1-4>) 및 '이야기' 공유를 통한 민주주의와 전체주의 정치체제(<1-5>) 같은 '인간 네트워크들'을 돌아본 후, 이 책의 <2부. 비유기적 네트워크>에서는 컴퓨터 네트워크와 알고리즘을 기반으로 하는 '비인간적' 네트워크를 다룬다.

컴퓨터와 AI는 처음에는 인간이라는 전통적인 인식의 주체에 의해 만들어지고 통제되지만 '스스로' 발전하는 알고리즘으로 인해 '스스로' 지식을 생산하고 창의성을 발휘하는 '비인간적' 또는 '비유기적' 주체로서 새롭게 등장한다는 것이다.

AI 혁명의 키워드는 '스스로'다.

급진적으로 발전하는 AI는 인간처럼 '인식'의 주체일 수는 없으나 전세계 수많은 사람들의 자발적 정보제공을 받아 빅데이터로 집적된 정보를 무한하게 조합하고 자발적인 '좋아요'와 '구독'의 참여 순위로 콘텐츠가 배치되고 노출되며 공개되는 자체 알고리즘 메커니즘을 통해 '스스로' 판단할 수 있게 된다. 책임의 주체 또한 인간도, 기업도 아닌 컴퓨터 네트워크 자체가 된다.

'이데올로기'로서 작동하는 인류의 '이야기' 역사를 유발 하라리는 '상호주관적' 네트워크라 부른다. '진실'이 아닐지라도 '진실' 이상으로 현실에 영향을 미치고 현실을 변화시키는 현상이다. 이러한 '인간적' 넥서스는 AI 혁명 과정에서 새로운 '비인간적' 주체의 등장과 함께 '상호컴퓨터적' 현실로 대체된다.

인류 역사에서 '상호주관적 이야기'의 힘을 훨씬 능가할 이 '상호컴퓨터 현실'은 강력하다. '스스로' 판단하고 결정하며 실행할 힘은 강력한데 인류 역사 속 전통적 주체인 인간처럼 '자정 기능'은 없다. '지능'은 있지만 '인식'의 주체가 될 수 없기 때문이다.

'철학' 없는 '과학', 반성 없는 기술의 미래다.

디스토피아다.

"인간 사이에서 협력의 전제 조건은 비슷함이 아니라 정보를 교환할 수 있는 능력이다. 대화할 수 있는 한 우리는 우리를 단합하게 해줄 어떤 공통의 '이야기'를 찾을 수 있을 것이다. 결국 이 능력이 호모 사피엔스를 지구를 지배하는 종으로 만들었다...

... 나는 역사학자로서 '변화' 가능성을 믿는다. 역사의 중요한 교훈 중 하나는 우리가 자연스럽고 영원하다고 생각하는 많은 것들이 사실은 인간이 만들었으며 바뀔 수 있다는 것이다... 인류 문명이 분쟁으로 소멸한다면 그것은 어떤 자연 법칙이나 낯선 기술이 아니라는 뜻... 우리가 노력할 경우(인간의 선택) 더 나은 세계를 만들 수 있다는 뜻... 모든 오래된 것은 한때 새로운 것이었다. 역사의 유일한 상수는 '변화'다."

- [넥서스], <3-11. 실리콘 장막 : 세계 제국인가, 세계 분열인가?>, 유발 하라리, 2024.

'자정 기능'은 정치체제로서 '민주주의'의 주요 특징이다. 히틀러 나치즘이나 스탈린주의 같은 현대 전체주의 정치체제는 모든 정보를 중앙에 집중하고 독점하는 본질적 특성상 AI라는 새로운 '비인간적' 주체에게 권력을 넘길 가능성이 크다. 정보를 독점한 1인 독재자가 AI의 꼭두각시가 되는 순간이다. 그러면 말 그대로 디스토피아가 된다. 그러므로 유발 하라리는 사회 '스스로' 분권화하고 견제하며 '자정 작용'하는 민주주의 정치체제를 강조한다. AI 혁명이 계속되면서 전체주의의 유혹은 여전하거나 더욱 강화되겠지만 인류는 '민주주의'를 지켜내야 한다. AI 디지털 신화 제작자와 디지털 관료들과의 대결 과정에서 정치체제는 여전히 '민주주의'와 '전체주의' 간의 대립으로 반복되겠지만, 실은 21세기 AI 혁명 과정에서의 정치분열은 "인간과 비인간 사이의 분열"(같은책, <1-5>)이 될 것이다. 그러나 이 '비인간적'이고 '상호컴퓨터적' 넥서스는 기존의 '인간적'이고 '상호주관적'인 '이야기' 넥서스보다 상상 이상으로 훨씬 강력하다. 민주주의와 전체주의 사이의 정치투쟁보다 인간과 비인간의 주체간 투쟁이 더욱 위험하다.

20세기 '철의 장막'은 21세기에 '실리콘 장막'으로 세계질서의 전선이 구분된다.

영화 [터미네이터]가 현실이 된다.

"AI의 발명은 전신이나 인쇄기, 심지어는 문자의 발명보다 중대한 사건일 수 있다. AI는 '스스로' 결정을 내리고 아이디어를 생성할 수 있는 최초의 기술이기 때문이다...

... 네트워크가 막강해 질수록 네트워크의 '자정 장치'가 중요해 진다...

... '자기 수정'을 통한 개선은 인류 역사보다 훨씬 오래된 원리다. 그것은 자연의 기본 원리요, 유기체의 근본 바탕이다. 최초의 유기체는 어떤 오류도 범하지 않는 천재나 신에 의해 창조되지 않았으며, 복잡한 시행착오 과정을 통해 출현했다."

- [넥서스], <에필로그>, 유발 하라리, 2024.

유발 하라리의 신작 [넥서스]의 결론은 '사피엔스'가 AI라는 새로운 '비인간적' 주체에 의해 멸망한다 해도 우주의 역사나 지구의 '빅 히스토리'는 변함없이 흐르겠지만 그렇다고 허무주의로 빠지기 보다는 '인간의 선택'을 중시하자는 내용이다. 즉, "우리가 어떤 결정을 내리느냐"(같은책, <에필로그>)에 따라 AI 혁명의 미래는 유토피아도, 디스토피아 될 수 있다. 인류가 새로운 '비인간적' 주체인 '상호컴퓨터적' 넥서스를 스스로' 진화하도록 그냥 둔다면 디스토피아가 올 것이요, 새로운 주체의 창조자로서 인간의 민주주의적 '자정 기능'을 지키고 변화 및 발전시킨다면 '사피엔스'의 미래는 달라질 수 있다.

역사학자다운 결론이다.

역사가 '정의'의 편이라는 믿음은 '정글의 법칙'처럼 신화에 불과하다(같은책, <에필로그>).

역사 속 모든 오래된 것들은 처음 한때는 새로운 것이었고(같은책, <3-11>),