일반인문 | 넥서스 nexus
; 인공지능에 대한 위험과 일반화된 생각에 대하여
지난해 노벨 물리학상을 수상한 인공지능(AI)의 '대부'로 불리는 제프리 힌턴 캐나다 토론토대 교수가 AI 기술의 급속한 발전이 인류를 위협할 수 있다고 경고하고 나섰습니다.
- 2025.04.28 YTN
“AI가 망상 부추겨” 미 42개주 법무장관들, 빅테크에 경고
- 2025.12.15 경향신문
"초지능 1~2년 내 등장"...인류 노예화 등 우려
- 2026.01.28 초이스경제
앤트로픽 인공지능 “사보타주” 보고서, 화학무기 등 극악 범죄 가능성 인정 등, 최고 기술자들의 위험 경고 봇물
- 2026.02.13 동아일보
우리 시대 가장 중요한 사상가의 반열에 오른 유발 하라리 교수가 압도적 통찰로 AI 혁명의 의미와 본질을 꿰뚫어 보고 인류에게 남은 기회를 냉철하게 성찰하는 신작을 선보였습니다.
독자들 사이에는 하라리 사상의 핵심적 한계로 거대 서사의 통찰력이 동시에 과도한 일반화와 기술결정론으로 기울 수 있다는 점이 있어서 호불호가 갈리고 있지만 이전 저작인 「사피엔스 (Sapiens)」 , 「호모 데우스 (Homo Deus)」 에서 이어지는 유발 하라리 교수가 압도적 통찰로 AI 혁명의 의미와 본질을 꿰뚫어 보고 인류에게 남은 기회를 냉철하게 성찰하는 작품이라고 할 수 있습니다.
AI가 발전해서 지금보다 더 큰 영향력을 행사하게 된다면 인간이 세상을 지배하는 역사는 여기서 끝날 수도 있다.
유발 하라리 예루살렘 히브리대 역사학과 교수는 자신의 저서 「넥서스」 에서 이렇게 말합니다.
앞으로 펼쳐질 시대의 주인공은 AI가 된다는 것이죠
인공지능과 관련해 위험성을 알리는 수 없이 많은 이야기들이 난무하는 상황에 오히려 잠시 생각을 가져 볼 수 있는 이야기 입니다.
모든 스마트폰은 고대 알렉산드리아 도서관보다 더 많은 정보를 담고 있으며 휴대전화 소유자를 전 세계 수십억 명의 사람들과 즉시 연결시킨다.
하지만 숨 막힐 듯 빠른 속도로 유통되는 이 모든 정보 때문에 인류는 그 어느 때보다 자멸에 가까이 와 있다.
- 본문 p.18
하라리 교수는 에필로그에서 이 책의 목표를 ‘AI 혁명에 대한 보다 정확한 역사적 관점을 제공하는 것’이라고 명확하게 밝히고 있습니다.
역사는 과거를 연구하는 것이 아니라 변화를 연구하는 것이라는 그의 역사관에 따라 지난 수천 년 동안 ‘정보 네트워크’의 발전 과정을 살펴보면, 지금 우리가 겪고 있는 상황에 대한 어떤 통찰을 얻을 수 있을것입니다.
제목 「넥서스 nexus」 는 사전적으로 ‘결합’ ‘연결’을 의미하는데 이는 정보의 기능으로 정보는 현실이나 진실과 상관없는 경우가 많지만 새로운 현실을 만들어 사람들을 불러모을 수 있습니다.
우리는 역사적 사건을 정치적, 이념적, 경제적으로 해석하는 데 익숙하지만, 이 책은 정보 흐름이라는 새로운 관점에서 역사를 재해석하며 사피엔스, 호모데우스에 이어 정보와 정보 네트워크의 역할과 그 진화 과정을 탐구하는 내용입니다.
중세와 근대 초기 전쟁사를 전공한 그에 따르면 인류 역사는 정보의 발전으로 이뤄졌습니다.
여기서 말하는 정보는 단순한 지식이 아니다. 서로 다른 생각을 가진 사람들을 하나로 연결해 대규모 네트워크를 만드는 ‘사회적 연결고리(Nexus)’를 뜻합니다.
연결, 결합, 집합을 뜻하는 책 제목도 여기서 따왔습니다.
사피엔스는 인간의 역사적 정체성과 협력 능력을 다뤘고, 호모 데우스는 미래 기술과 인간의 변화를 전망했다면, 넥서스는 정보 네트워크가 인류 문명을 형성하고 앞으로 어떻게 작동할지를 역사, 철학, 정치, 기술의 관점에서 통합적으로 분석합니다.
즉, 「넥서스 nexus」 는 그의 이전 저작들에서 다뤄진 인류와 기술, 미래 논의를 하나의 역사적 흐름 속에서 재구성하고, AI 시대의 본질적 딜레마를 보다 근본적으로 규명한 업그레이드된 작업이라고 볼 수 있습니다.
사피엔스 (Sapiens)에서 인류의 역사를 인지혁명에서 농업혁명으로 다시, 과학혁명이라는 큰 흐름으로 재구성하며 인간이 이야기와 신화를 통해 거대한 협력체를 만들 수 있었던 이유를 설명합니다.
호모 데우스 (Homo Deus)는 인류가 과학기술의 발전을 통해 행복·불멸·신적 능력을 추구하는 과정과 미래 가능성을 탐구하며 인간 중심적 세계관이 어떻게 ‘데이터 중심주의(Dataism)’ 또는 알고리즘 중심 사회로 변할지에 대한 예상을 제시합니다.
석기 시대부터 구전, 문자, 종교의 경전, 인쇄술, 미디어, 인터넷에 이르기까지 정보의 흐름이 인간 사회를 어떻게 조직하고 유지했는지 설명합니다.
정보가 항상 사실을 반영하지 않으며, 오히려 허구·이야기·신화가 사회적 협력을 만들어내는 핵심 동력이라는 점을 강조합니다.
AI가 전례 없이 강력한 정보 네트워크의 중심이 되고, 민주주의, 자유, 인간의 판단을 위협할 수 있다는 경고를 전합니다.
정보 조작, 알고리즘 편향, 가짜 뉴스의 확산 등이 사회를 불안정하게 만들 수 있는 문제로 다뤄집니다.
정보 네트워크는 인간의 협력을 가능케 했지만, 동시에 권력 남용과 왜곡, 극단적 이념을 확산시키는 도구가 되었다는 분석으로 특히 AI는 단순한 기술이 아니라 인간의 선택과 사회 구조 전반을 재편할 잠재력을 가진 ‘비인간 지능 시스템’으로 해석합니다.
저자 유발 노아 하라리는 이전 저작인 사피엔스, 호모 데우스의 문제의식을 계승하면서도, 이번 책에서는 정보 자체를 문명의 핵심 작동 원리로 전면화합니다.
인쇄술과 마녀사냥의 역사에서 알 수 있듯이, 정보 시장의 규제를 없앤다고 해서 사람들이 스스로의 오류를 찾아내 바로잡는다는 보장은 없다.
자유로운 정보 시장에서는 진실보다 분노가 우세할 가능성이 높기 때문이다.
진실이 승리하려면, 균형추를 ‘팩트’ 쪽으로 기울일 수 있는 힘을 가진 큐레이션 기관을 설치해야 한다.
하지만 가톨릭교회의 역사에서 보았듯이, 그런 기관은 큐레이션 권한을 이용해 자신에 대한 비판을 틀어막을 가능성이 있다.
즉 다른 의견은 무조건 잘못된 것으로 낙인찍고 기관의 오류가 드러나 수정될 기회를 차단할지도 모른다.
주어진 권한을 더 많은 권한을 갖기 위해 사용하지 않고 진실 추구에 사용하는 더 나은 큐레이션 기관을 만드는 것이 가능할까
- 본문 p.168
1장 정보란 무엇인가?에서 정보는 진실의 반영이 아니라, 협력을 조직하는 도구라고 정의하고 전작 사피엔스에서 신화를 중심으로 협력을 설명했다면, 이 책 2장 문자와 관료제에서는 행정·문서·데이터의 축적 방식을 통해 권력 구조를 분석합니다.
3장에서는 단순한 믿음 체계가 아니라 정보 네트워크의 안정 장치인 성서를 통해 정보 네트워크가 동시에 작용하는 통합과 분열을 이야기하고 전작인 사피엔스에서 과학혁명을 다뤘던 인쇄혁명의 서술에서 지식 유통 구조의 변화라는 관점에서 재해석한 4장을 지나면 5장에서는 어떤 정보가 신뢰할 만한가?”라는 질문에 다른 답을 제시하며 정보 네트워크 모델인 이데올로기, 자유주의, 공산주의, 민족주의를 이야기합니다.
이제 6장에서 대중매체와 7장 인터넷의 거대 플랫폼이 지배하는 구조와 정보노출을 결정하는 알고리즘에 이어 8장에서 AI의 등장을 적고 있습니다.
AI는 인간이 만든 도구지만 스스로 텍스트, 이미지, 결정을 생성하는데 이는 역사상 처음으로 비인간 정보 행위자가 등장한 사건으로 이를 전작인 호모데우스와 연결해 데이터주의(Dataism)의 구체화를 보여주고 잇는데 다만 이번에는 미래 예측이 아니라 이미 진행 중인 변화의 구조 분석에 집중합니다.
이제 마지막으로 정치 담론을 AI가 자동 생성할 경우 발생하는 공적 영역의 인간성의 약화에대한 위험을 피력하고 AI 네트워크가 인간의 의사결정을 대체할 가능성을 제시하며 인류는 자신이 이해하지 못하는 정보 네트워크에 의존해 문명을 유지할 수 있는지에 대한 질문을 던지고 있습니다.
「넥서스 nexus」 는 과거를 재해석하고 현재를 진단하며 미래를 경고하는 구조로 특히 우리가 이전에 관심을 보였던 미디어가 극우화·정치적 급진화를 어떻게 증폭시키는가라는 문제와도 깊게 연결됩니다.
이 책은 그 현상을 정보 네트워크 구조 자체의 문제로 설명합니다.
앞에서 언급한것처럼 하라리는 수만 년의 역사를 하나의 서사 구조로 압축하는데 이는 강력한 통찰을 제공하지만, 동시에 복잡한 역사적 맥락의 축소, 지역·문화 차이의 희석, 학계의 논쟁적 쟁점들을 하나의 해석으로 정리하는 위험을 낳습니다.
그리고 이 책에서는 정보가 반드시 진실을 의미하지 않는다고 말하는데 이는 정확한 통찰이지만, 진리는 무엇이며, 우리는 어떻게 진리에 접근할 수 있는가 문제가 남습니다.
그는 진리론을 체계적으로 전개하지 않기에 결과적으로 그의 논의는 상대주의적 인상을 줄 수 있습니다.
그의 서술은 종종 강한 결정론적 어조를 띄는데 이는 철학적으로는 논쟁적이며, 실증적으로도 확정되지 않은 주장입니다.
그의 주장에 대해 AI는 독립적 행위자가 아니라 자본, 기업, 국가 정책, 경제 구조 속에서 작동하고 권력은 알고리즘 자체보다 누가 그것을 통제하는가에 달려 있다는 비판을 할수 있고 민주주의 위기를 경고는 하라리의 주장과 해결책은 비교적 추상적으로 이는 방향 제시일 뿐, 정치경제적 구체성은 부족합니다.
역사학자들은 학술적으로 출처의 선택적 사용이나 학문 간 통합의 야심은 크지만 깊이는 깊지 않는등의 비판이 반복되며 대중 지식인으로서는 탁월하지만,전문 연구자로서는 논쟁적 위치에 있다는 묻매를 맞기도 합니다.
그럼에도 불구하고 하라리를 읽으며 거시적 통합 능력, 복잡한 학문을 서사적으로 엮는 능력, 현대 문명의 구조적 취약성에 대한 직관이라는 그의 장점을 생각해야할것입니다.
하라리는 정확한 답을 제시하는 사상가라기보다, 거대한 질문을 던지는 사상가로 그의 작업은 완결된 이론이 아니라 문명 진단서에 가깝습니다.
주말엔 인공지능 Skynet의 터미네이터Terminator라는 고전이나 AI와 인간 관계와 감정적 AI를 다룬 영화인 Her, AI 안전 연구에서 목표 왜곡 사례로 자주 사용되는 I, Robot, AI 윤리 연구에서 매우 중요한 블레이드러너 Blade Runner, AI가 인간을 이해하고 조종할 수 있는가라는 문제를 다룬 Ex Machina, AI가 인간 문명을 재설계하려는 I Am Mother, 가장 최근인 2024년 인간과 AI의 전쟁을 다루며 반란 AI Harlan이 등장하는 Atlas를 다시 보며 유발 하라리의 넥서스를 생각해 봐야 겠습니다.
