우리가 모르는 그들의 세계

[책을 읽고] 유발 하라리, <넥서스> (5)

중국의 부상

지금에야 딥시크 쇼크로 인해 중국과 인공지능이라는 두 단어가 잘 연결되는 편이다.

그러나, 유발 하라리는 전작 <21가지 제언>에서 이미 중국의 가능성을 암시했다.

다소 두루뭉술하게 표현했지만, 2008년 금융위기 이후 자유주의에 대한 회의감이 커졌고,

중국이 가는 길이 틀렸다고 말할 수 있는 사람이 드물 것이라고 말한 것이다.

이 표현은 정보 교환과 인공지능에 대해 더 강하게 제시할 수 있다.

정보의 흐름을 조절할 수 있는 중앙탑이 있는 국가가 더 유리할 수 있지 않을까,

하는 생각을 누구라도 하지 않을까.

정보 흐름이 극대화 되는 인공지능의 시대에,

전체주의가 민주주의보다 더 우월한 체제로 판명된다면, 인류의 미래는 어떻게 될까?

이 질문에 대해, 다급한 대답이라도 해야겠다고, 하라리는 생각했을 것이다.

페이스북이 조장한 로힝야족 학살

비유기적 네트워크, 즉 컴퓨터가 개입하는 정보 연결망을 다루는 제2부는 세 개의 장으로 되어 있다.

6장 컴퓨터는 인쇄술과 어떻게 다른가

7장 네트워크는 항상 켜져 있다

8장 네트워크는 자주 틀린다

뒤의 두 명제는 그대로 받아들이면 된다.

컴퓨터 자주 틀리는데, 끌 수도 없다.

틀리므로 위험하고, 끌 수 없어 위험성이 기하급수적으로 커질 수 있다.

결국 컴퓨터 네트워크는 그동안의 정보 기술, 즉 인쇄술이나 TV와 어떻게 다른가가 문제된다.

가장 큰 문제는 컴퓨터 네트워크가 '결정'을 한다는 점이다.

알고리즘은 인쇄기보다 편집자에 가까운 역할을 한다.

즉, 무엇을 찍어낼지 결정한다.

그래서 벌어진 대표적인 비극이 로힝야족 학살 사건이다.

페이스북 알고리즘에 의해 (인기가 많은) 로힝야족에 대한 증오 멘션이 증가하고,

이에 따라 미얀마 사람들은 로힝야족에 대한 가혹행위에 양심의 가책을 덜 느끼게 되었다는 것이다.

페이스북 경영진은 로힝야족에 대해 어떤 악의도 품지 않았으며, 사실 로힝야족이 존재하는지도 잘 몰랐다. (292쪽)

페이스북은, 돈을 더 벌기 위해 강렬하고 센세이셔널한 멘션을 더 잘 퍼나르는 알고리즘을 적용했을 뿐이다.

페이스북 알고리즘이라는 비인간 지능의 결정이, 사람들의 죽음으로 이어진 것이다.

주식 투자자들 사이에는, 이름을 바꾸는 회사를 조심하라는 말이 있다.

세계를 뒤흔들던 메타버스 붐을 타고 회사명을 변경한다고는 했지만,

페이스북이라는 이름이 사람들이 애정해 마지않는 이름이었다면, 과연 회사명을 변경했을까?

로힝야족 (출처: https://diverseasia.snu.ac.kr/?p=6004)

현실의 창조자

하라리는 현실을 세 가지로 구분한다.

객관적 현실, 주관적 현실, 그리고 상호주관적 현실이다.

각각, 3인칭, 1인칭, 그리고 2인칭의 현실이라고 생각하면 이해하기 쉽다.

<사피엔스>의 집단 허구는 바로 너와 내가 만드는 2인칭의 현실, 즉 상호주관적 현실이다.

여기에 비유기적 행위자, 즉 알고리즘이 끼어드는 것이 지금 우리의 현실이며, 미래다.

이 상호주관적 현실을 창조하는 데 있어, 컴퓨터가 인간보다 열등하다고 믿을 이유는 전혀 없다.

아니, 인간보다 우월하다고 믿을 이유가 하나둘 늘어나는 것이 요즘 일어나는 일들이다.

2017년부터 2020년까지 일어났던 Q어넌 사태는, 인공지능이 우매한 신도를 얼마든지 모을 수 있다는 사실을 보여준다.

인공지능 람다의 '인권'을 위해 구글 엔지니어라는 좋은 일자리를 잃을 위험을 기꺼이 감수한 르모인은 목사 안수까지 받은, 말하자면 신을 믿는 사람이었다.

자스완드 싱 자일이라는 사람은 챗봇의 명령에 따라 영국 여왕 암살을 시도하다가 경찰에 체포되었다.

이런 사례들만으로도 충분히 경악스럽지만,

이들 사건들은 컴퓨터와 인간의 상호작용에 불과하다.

네트워크의 구성원이 모두 컴퓨터인 경우에 대해서 우리는 아직 아는 것이 거의 없다.

좀 심하게 비약하면, 지금 컴퓨터들 사이의 연결망에서 인간 말살 모의가 진행되고 있다고 해도,

우리는 그런 일이 벌어지는지조차 알 수 없다.

유발 하라리의 단순한 비유를 따라가 보자.

우리가 지금 점토판에 쐐기를 새긴지 80년이 된 (컴퓨터가 세상에 나온 지 80년 정도 됐다) 고대 메소포타미아에 있다고 상상해보자.

알렉산드리아 도서관, 성경, 소련 NKVD의 기록 보관소를 상상할 수 있을까?

이 비유도 미래 컴퓨터의 발전 잠재력을 엄청나게 얕잡아 본 것일 수 있다.

GPT-4가 아메바라면 T-렉스는 어떤 모습일까? (315쪽)

저자도 서두에 밝혔듯이, 미래 예측이란 부질없을 정도로 어려운 일이다.

따라서 나는 이 문장이 이 책에서 제일 중요하다고 생각한다.

우리는 미래에 대해 제대로 상상조차 할 수 없다.

(데닛의 말대로, 121각형을 상상해 보라.)

***계속***