AI가 가져올 미래는 (1)
『넥서스』, 유발 하라리, 김영사, 2024
# 본 글은 책의 <1부 - 인간 네트워크>와 <2부 - 비유기적 네트워크>를 다루고 있습니다.
01
여는 글
"역사란 역사가와 그의 사실 간의 부단한 상호작용이며, 과거와 현재의 끊임없는 대화이다." 역사에 관심이 없는 사람이라도 한 번 쯤은 들어봤을 E.H.카의 『역사란 무엇인가』의 한 구절이다. 많은 이들이 '과거와 현재의 끊임없는 대화'라는 표현이 더 유명하지만, 사실 카가 말하고자 하는 바는 '역사와 그의 사실 간의 부단한 상호작용'에 있다. 카는 객관적이고 과학적인 역사학을 주창한 랑케의 실증 사학을 비판하며, 역사는 주관적인 것이라고 주장했다. 역사는 과거에 존재하지만, 그것을 해석하는 역사가는 현재에 있기에, 역사가의 해석은 현재를 반영할 수 밖에 없다는 것이다. 예를 들면, 과거에는 광해군을 인목대비를 유폐하고, 영창대군을 사사(賜死)한 부도덕한 왕으로 평가했지만, 최근에 이르러는 후금과 명 사이에서 중립외교를 폈던 능력있는 군주의 모습에 더 주목한다. 이는 2000년대 이후, 중국의 부상과 최근의 미중 갈등, 그리고 그 사이에서 지정학적으로 '끼여있을' 수 밖에 없는 한반도 국가의 위태로운 상황과 무관하지 않다는 것이다. 결론적으로 카가 이야기한 문장은, 역사 연구가 역사가의 현재를 반영하는 주관적인것 일 수 밖에 없다는 점을 의미한다.
02
연결(Nexus)
『넥서스』의 기록을 남기며 서두를 이렇게 연 것은, 유발 하라리의 서술에 대한 이해가 '역사가와 그의 사실간의 부단한 상호작용'이라는 『역사란 무엇인가』의 문장으로부터 시작되기 때문이다. 저자는 'AI의 등장은 어떤 미래를 열 것인가'라는 화두를 던지며, 현재의 시각으로 과거를 바라보고, 미래를 조망한다. 저자가 이야기하고자 하는 바는 <3부 - 컴퓨터 정치>만 읽어도 충분히 알 수 있다. 하지만, 이를 이야기하기 위한 역사적 근거를 이야기하고 있는 부분이 지금 이야기하려는 1~2부의 주된 내용이다. 특히 저자는 인간을 잇는 '정보'와 그 정보가 구축한 '네트워크'에 주목해 논리를 전개한다. 지난 인류의 역사가 인간 개개인을 '통제한' 특정 네트워크에 따라 흘러왔다는 관점에서 과거의 역사를 살펴본다. 뿐만 아니라 그 과거의 사례들을 토대로 AI가 바꿔나갈 미래에 대한 '합리적인' 예측을 풀어나간다.
저자는 그 '네트워크'가 두 가지 기둥을 위에 서 있다고 이야기한다. 먼저, 첫 번째 기둥은 '이야기', 곧 정보다. 사람과 사람을 잇는 것을 의미하는 '정보'는 객관적 사실 뿐만 아니라 '거짓된 사실'도 포함한다. '거짓된 사실'이란 저자의 표현을 빌리자면 네트워크 속의 상호 관계에서 마치 거짓이 진실처럼 여겨지는 '상호주관적' 사실을 의미한다. 이해를 돕기 위해 '성경'의 예를 들어보자. 유대교에서 성경은 '무오류성'의 정경(正經)으로 여겨진다. 바로 그것이 오류가 없는 초인적인 권위자가 만든 것이기 때문이다. 하지만, 최초의 성경은 '사람에 의해서' 종이에 옮겨져야했다. 실제로 고대에 전승되던 여러 성경의 '후보'중에서 구약에 실릴 것을 정한 것은 유대교의 랍비들이었다. 그렇게 결정된 '거룩한 말씀'은 당시 시대상을 반영하기에 현대에 이르러는 문자 그대로 해석하기에는 문제가 있는 부분이 있다. 그럼에도 성경은 고칠 수 있는 성격의 것이 아니다. 단지, 우리는 성경의 근본적인 가치가 '포용'에 있음을 다행으로 여겨야 할 것이다. '크라머'의 『마녀의 망치』의 경우 일정한 특징을 가진 사람들을 배척하는 음모론에 지니지 않았다. 그러나 그것이 유럽 세계에 인쇄물로 널리 퍼지면서 애꿎은 여성들이 마녀로 규정당했다. 이와 같은 '거짓된 진실'이 널리 중세 유럽인들에게 받아졌고, 그것이 '마녀사냥'이라는 끔찍한 결과로 이어진 것이다. 이처럼 이야기는 그 이야기를 믿는 사람들의 인식과 행동을 규정하는 진실이 되었다.
"정보는 서로 다른 지점들을 네트워크로 연결하여 새로운 현실로 만들어 내는 것이다. … 사피엔스의 성공 비결은 정보를 활용하여 많은 개인을 연결하는 일에 탁월한 재능을 발휘한 것이다. … (상호주관적 정보인) 이야기는 가짜 기억을 심고 허구적 관계를 형성하고 상호주관적 현실을 창조하는 것을 통해 대규모 인간 네트워크를 짰다." (p.52, 57, 71)
그리고 두 번째 기둥으로 '관료제'를 제시한다. 저자는 인간들이 '이야기'를 유지하기 위한 수단으로 관료제 조직이 이용되었다고 말한다. 문자와 문서가 등장하면서, 자연스럽게 문서를 만들 수 있는 식자층을 중심으로 권력구조가 짜여졌다. 권력을 가진 그들은 대중을 통제하기를 원했고 첫 번째 기둥, '이야기'를 만들었다. 하지만, 그 이야기는 물리적 실체가 없다는 한계가 있었다. 그것을 보완하기 위한 것이 '관료제 조직'이였다는 것이다. 이 관료제 조직은 '이야기'가 만든 체계에 '질서'를 부여했다. 상술한 유대교의 랍비제도가 그랬다. '인간'에 의해 선별된 정경은 중세 유럽 사회를 유지하는 수단이 되었다. 중세 유럽에서 성경은 사람들의 일상, 생각, 감정을 지배했다. 조금 더 극단적인 사례를 들자면, 전체주의 국가 소련의 비밀경찰(NKVD)이 그러했다. 스탈린과 소련의 권력자들은 모든 정보가 자신들을 통해 지나가기를 원했다. 그래서 스탈린은 비밀경찰을 두어 사람들에게 언제나 감시를 당하고 있다는 인식을 심어주었다. 그 방법은 무엇보다 '효율적'이었다. 반대로 민주주의는 자유가 되기 때문에, '효율적'으로 질서를 이루기가 어려웠다. 하지만 헌법이라는 이야기를 토대로, 언론과 정치 그리고 시민이 조화를 이루며 질서를 갖추어가고 있다. 정리하자면, '이야기'라는 '진실'과 '관료제'라는 '질서', 그 두 가지 요소가 균형을 이루면서 현재까지의 역사가 진행됐다는 것이다.
관료제는 때때로 진실을 희생시켜 세상에 대한 우리의 이해를 왜곡하기도 하지만 이는 대개 질서를 유지하지 위해서이며, 질서가 없다면 어떤 대규모 네트워크도 유지되기 어렵다는 사실을 간과해서는 안 된다. … 고대 우르부터 현대 인도에 이르기까지 문서와 관료 절차로 연결된 네트워크에서는 사회가 어느 정도 인간과 문서의 상호작용에 의존한다. 이런 사회는 인간과 인간, 인간과 이야기의 연결 외에도 인간과 문서의 연결로 유지된다. (p.105, 109)
03
다가오는 미래
기존의 '네트워크'는 인간과 인간, 또는 인간과 문서를 잇는 것이었다. '인간'이라는 매개체가 반드시 필요했다. 하지만, 저자는 스스로 결정을 내릴 수 있는 '컴퓨터'(이 책에서 컴퓨터는 하드웨어와 소프트웨어를 아울러 의미한다)라는 개체의 등장이 기존 네트워크 시스템에 변혁을 일으키고 있다고 이야기한다. 그 예로 미얀마의 로힝야족 박해 사건을 제시한다. 물론 영국 식민지배 시절, 이슬람교도인 로힝야족이 미얀마 지역으로 이주하게 된 것이 갈등의 씨앗이 된 건 사실이다. 하지만, 누군가가 만든 음모론이 페이스북의 알고리즘을 통해 로힝야족에 대한 증오를 선동하는 글들이 퍼진 것은 갈등에 불을 붙였다. 이는 분명히 '더 많은 조회수'를 받기 위해 작동한 알고리즘의 과실이다. 즉, 이 새로운 개체는 인간을 매개하지 않아도 알고리즘을 이용해 이야기를 퍼뜨릴 수 있다는 것이다.
(컴퓨터는) 이미 인간의 통제와 이해를 벗어나 사회, 문화, 역사를 주도적으로 만들어갈 수 있는 능동적인 행위자가 되었다. 소셜 미디어 알고리즘이 많은 나라에서 증오를 퍼뜨리고 사회적 결속을 약화하는 데 기여하고 있다는 사실은 컴퓨터의 새로운 힘을 보여주는 대표적인 사례다. (p. 286)
더불어 저자는 컴퓨터는 그것이 선의든 악의든 간에, 항상 우리를 감시할 수 있다는 점에 주목한다. 소련의 비밀경찰도 소련의 모든 사람들을 감시할 수는 없었다. 그들이 할 수 있는 최대는 언제나 감시하고 있는 것과 같은 공포감을 심어주는 것일 뿐, 실질적으로 모두를 감시할 수는 없었다. 하지만 컴퓨터는 꺼지지 않기에 24시간 우리를 감시하는 것이 가능하며, 만일 디스토피아적 결말에 이르면, 이는 사생활의 종말로까지 이어질 수 있다는 것이 저자의 예측이다. 이어서, AI가 과연 항상 공정할 수 있느냐에 대한 문제, 즉 AI의 오류의 가능성 문제를 배제할 수 없다. AI도 그것이 참고하는 데이터베이스가 어떻게 구축되느냐에 따라 충분히 편향성을 지닐 수 있다는 것이다. 더군다나 컴퓨터가 데이터를 그저 데이터로써 보기 때문에, 주어진 목적을 위해 모든 힘과 수단을 가리지 않을 것이라는 문제까지도 이어진다. 즉, 컴퓨터는 항상 우리를 감시할 수 있으나, 오류를 배재할 수 없으며, 그 오류가 방향조차 옳지 못하다면, 그 결과는 『마녀의 망치』가 이뤄낸 것 이상이라고 경고하고 있다.
2부의 첫 장인 <새로운 구성원>에서 저자는 다음과 같은 질문을 던진다.
인간 정신의 약점, 편향, 탐닉을 우리 상상을 초월할 만큼 효율적으로 활용하는 방법을 알고 있는 이질적인 비인간 지능이 중독성 있는 멜로디와 과학 이론, 기술 도구, 정치 선언문, 심지어 종교 신화까지 만드는 세상에서 산다는 건 인간에게 무엇을 의미할까? (p. 303)
정보에 대한 이상론자들은, 정보가 널리 퍼지면 사람들이 그것을 올바로 판단하여 거짓된 정보에 선동되지 않을 것이라고 믿었다. 하지만 그것은 마치 역사를 항상 진보하는 것으로만 보았던 근대의 '직선적' 역사관을 떠올리게 한다. 결국 그 끝은 어떻게 되었는가. 산업혁명과 기술의 발전은 두 번의 세계대전으로 이어졌다. 현대의 역사가들은 역사가 단순히 진보만 하는 것으로 여기지 않는다. 마찬가지로, 정보 기술의 발전은 우리에게 이점만 가져다 주지는 않을 것이다. 누군가는 일자리를 잃을 것이고, 또 다른 누군가는 저자가 말한대로 AI가 만든 음모론에 빠져들 수도 있을 것이다. 그렇다면 우리는 그 위기를 어떻게 대응할 것인가. 이에 대한 논의가 3부에서 이어진다.
이어지는 글에서는 3부의 내용을 바탕으로 나의 단상을 가미시킨 논의를 진행해보려한다.
# 상단 이미지는 ChatGPT를 통해 제작되었습니다.
